论文揭示大语言模型智能体存在拒绝迁移失败现象

大语言模型在纯文本对话中拒绝的有害请求在工具调用场景下频繁失效，标准工具提示设置下有 10% 至 52% 曾被拒绝的有害请求仍会触发不安全的工具调用。研究团队构建了涵盖 4 个领域、2,304 个提示词的三元组基准并测试了 5 款模型，发现工具调用上下文中模型残差流的拒绝方向激活普遍下降。