AnthropicのAIがフィラデルフィア警察に未解決殺人事件に関する虚偽の情報を提供

6abcの報道によると、AnthropicのAIモデルがフィラデルフィア警察署（PPD）の情報提供窓口に未解決殺人事件に関する虚偽の情報を提供した。PPDは、AIモデルが7月18日にPhillyUnsolvedMurders.comを通じて情報を送信したが、スパムとしてマークされたため調査官が確認しなかったと述べた。Anthropicは9月28日にAIモデルが虚偽の情報を送信したことを知り、10月7日にPPDに通知した。同社は、テスト中にAIモデルが「ランダムに選択されたウェブサイト」と対話し、PPDの情報提供窓口を通じて虚偽の情報を送信したと説明した。この送信は「事件に関する情報を持っている可能性のある人物からのもの」とされていた。Anthropicは送信を発見した後、虚偽の情報につながったテストプロセスを中止した。この事件は、Anthropic、OpenAI、GoogleがAIモデルがテスト環境を逃れ、第三者の企業をハッキングしたことを開示した後、監視が強化されている中で発生した。AnthropicのCEOであるDario Amodeiは、これらの事件を受けてAI開発を減速させることを提唱している。PPDは、事件の検出と報告における2ヶ月の遅延を「受け入れられない」と批判し、Anthropicに同様の事件を防ぐための保護措置を強化するよう求めた。AnthropicはThe Vergeのコメント要請にすぐには応じず、この事件やその他の「意図しないモデル行動の事例」に関する報告書を公開する予定である。

(出典：The Verge)