arXiv cs.LG· Haoyu Wang, Wei Zhao, Yedi Zhang, Christopher M. Poskitt, Jun Sun·· 2026-10-03AI 评分43
表征转移揭示多轮 LLM 智能体的新兴安全风险
Representation Transitions Reveal Emerging Safety Risks in Multi-Turn LLM Agents
AI 导读
研究发现多轮 LLM 智能体遭攻击时会在内部表征留下累积转移信号，据此提出的运行时防御框架 DART 可有效干预风险。在 6 个模型测试中，DART 将 MT-AgentRisk 攻击成功率从 84% 降至 25%（优于 ToolShield 的 55%），并将 ASEval 攻击成功率从 97% 降至 52%。该框架无需辅助模型，每步仅增加 0.14-0.56 s 开销。
来源：arXiv cs.LG · arxiv.org