arXiv cs.AI· Yanyan Zhang, Fei Shen, Ting Yan, Hao Zhang·· 6 天前AI 评分33
CASEL:面向长程工具调用智能体的后果感知选择性执行
CASEL: Consequence-Aware Selective Execution for Reliable Long-Horizon Tool-Using Agents
AI 导读
研究者提出智能体运行时安全策略 CASEL,结合失败概率、后果及可逆性等维度,为工具调用动态分配直接执行、沙箱、人工审批等处理模式。在受控模拟中,CASEL 在同等算力成本下将有害副作用轨迹率从 14.75% 降至 7.02%,平均归一化危害从 0.184 降至 0.123。若移除可逆性感知路由,有害轨迹率则会回升至 15.53%。
来源:arXiv cs.AI · arxiv.org