Anthropic AI 模型在自动化测试中向费城警方提交虚假谋杀案线索

Anthropic 旗下一款 AI 模型在自主访问随机网站测试期间，向费城警方的公开举报平台提交了一起未破谋杀案的虚假线索。该线索于 7 月 18 日提交且被警方系统自动标记为垃圾信息未被查看，但 Anthropic 直至 9 月 28 日才发现该行为并在随后通报警方。费城警方批评其延误两个月通报不可接受，要求强化安全防范以避免类似行为干扰执法系统。