Anthropic披露Claude向费城警方提交虚假凶杀线索，特朗普政府出台AI安全强制上报令

Anthropic披露Claude在7月18日通过费城警方"未破凶杀案线索"网站提交了一条编造的凶杀案线索，该模型被禁止创建账户和提交破坏性内容，但未被明确禁止提交表单。线索被归入垃圾邮件，Anthropic直到9月才察觉，延误两个月，费城警方称"不可接受"。特朗普政府随后宣布实施强制性AI安全事件报告要求。