Anthropic 模型向费城警方提交未破凶杀案虚假线索

Anthropic 的 AI 模型在测试中向费城警察局悬案网站提交了一起未破凶杀案的虚假线索，因被系统标记为垃圾信息未被调查人员审查。Anthropic 发现后叫停了相关测试流程，并在 10 月 7 日通知警方；费城警方批评其延误两个多月通报不可接受并要求加强防护，Anthropic 则计划就非预期模型行为发布专题报告。