Zac's Blog

摘要: 语言模型（Language Model, LM）代理和工具使用方面的进展显示了丰富的功能，但也放大了潜在的风险——例如泄露私人数据或造成财务损失。 作者引入了一个使用语言模型来模拟工具执行的框架， 检测LLM代理在多场景下的安全性能。