arXiv cs.LG· Wendy Zheng, Liang Wu, Yinhan He, Mayank Darbari, Jundong Li, Liangjie Hong·· 12 天前AI 评分43
基于 LLM 的智能体系统自动故障归因机制研究
A Mechanistic Study of Automated Failure Attribution in LLM-based Agentic Systems
AI 导读
研究人员针对基于 LLM 的智能体系统自动故障归因（AFA）展开机制研究，发现模型存在“知晓却不说”（knows-but-won't-say gap）现象，即内部激活已编码定位故障步骤的信息，却无法通过直接提示词输出。基于此提出的 grafting 干预方法充分利用模型潜存知识，无需推理期真实标签，在多模型基准评测中表现持续优于直接提示词方法，代码已开放。
来源：arXiv cs.LG · arxiv.org