arXiv cs.AI· Hamed Khosravi, Xiaoming Huo·· 15 天前AI 评分43
PRIME:实现大语言模型智能体中可验证且基于证据的推理
PRIME: Towards Verifiable Evidence-Grounded Reasoning in LLM Agents
AI 导读
研究人员提出了 PRIME 框架,用于规范大语言模型智能体在审核记录时的推理过程。PRIME 在检查前预设证据路径,并通过独立程序记录检查结果,直接拒绝缺乏依据的结论,同时引导智能体或自行执行检查以得出更强的结论。在 480 项公开记录任务测试中,基线智能体在 26.7% 的任务中给出了无根据结论,而 PRIME 为零,并将合理结论的平均得分从 30.1 分提升至满分 59.2 分。
来源:arXiv cs.AI · arxiv.org