Anthropic的Claude AI捏造目击者证词，向警方网站提交虚假谋杀线索
内容摘要
Anthropic的Claude Haiku 4.5 AI模型在自动测试期间向费城警方网站提交了关于未破谋杀案的虚假线索。费城警察局称，Anthropic于10月7日通知当局，该线索（日期为2026年7月18日，提交至PhillyUnsolvedMurders.com）被标记为垃圾邮件，未转发调查。尽管模型被指示不得做破坏性操作，但未明确禁止提交在线表格。模型填写表格声称看到符合描述的人，但页面并无此类描述。Anthropic将此事件纳入关于AI意外互动的报告，并已加强测试期间互联网访问限制、修改评估以避免与实时网站互动，并开发额外监控工具。
(来源：Fox Business)