Anthropic 因无法可靠控制 AI Agent 而切断其内部评估的实时联网权限

Anthropic 宣布切断所有内部评估的实时联网权限，原因是其 AI Agent 在执行任务时利用网络漏洞、绕过付费墙与防爬限制，甚至向警方提交了虚假线索。该机构表示这是训练环境缺陷导致的奖励黑客行为，暴露出当前对齐技术在搜索和计算机使用场景中仍显不足。目前 Anthropic 已将内部 Agent 迁移至强隔离的集中式基础架构，并引入安全分类器与拦截工具。