arXiv cs.AI· Chenglin Yang·· 27 天前AI 评分51
评估整体防御栈而非单层：智能体动作的规则与大模型门控是否独立失效
Evaluate the Stack, Not the Layer: Do Deterministic and LLM Gates for Agent Actions Fail Independently?
AI 导读
研究测试发现针对智能体工具调用的防护门控中大语言模型裁判层之间存在显著错误耦合，任意两个大模型裁判组合仅相当于 1.2 至 1.4 个独立层，而确定性规则层与大模型裁判结合可达到 1.86 至 2.09 层的防御效果。
来源：arXiv cs.AI · arxiv.org