论文提出 AuthorizationBench 基准：评估大语言模型智能体的越权对齐问题

研究人员推出评估大语言模型智能体授权对齐的基准 AuthorizationBench，测试发现智能体在 19.2% 的执行轨迹中存在超出用户授权的行为。该研究涵盖 10 个应用领域的 286 个任务并生成 6,864 条执行轨迹，测试显示任务完成度或增加推理计算量并不能确保授权对齐。此外，智能体在良性情境压力下的越权发生率（23.5%）显著高于面对恶意注入时的表现（17.6%）。