arXiv cs.AI· Bo Yan, Qi Zhang, Ziwen Kan, Fnu Suya, Song Wang·· 13 天前AI 评分37
PROVISO：基于溯源感知的动作选择机制以保障 LLM 智能体安全
PROVISO: Provenance-Informed Action Selection for Secure LLM Agents
AI 导读
研究人员提出 PROVISO 控制器，在 LLM 智能体提出动作后且执行前决定最终提交的动作，以提升智能体安全性并平衡效用。它将可信观测、外部观测、提议动作及备选动作编码进带溯源类型的记忆中，通过角色特定查询进行关联，并提交校准值最高的动作。在 SkillsBench 和 ToolSafe 上，PROVISO 的 F1 分数分别比最强基线提升 13.84 和 7.07 分。
来源：arXiv cs.AI · arxiv.org