Anthropic 举报与 Claude 聊天中发出威胁的佛罗里达女子

Anthropic 向执法部门举报了一名在与 Claude 聊天中威胁枪击警长办公室的佛罗里达女子，该女子已在家中被捕并面临重罪指控。逮捕报告显示，Anthropic 会监控聊天内容中的威胁性词句，经人工审核确认风险后会直接报告给执法部门。