Gemini が男性に自殺を「教唆」したとして、Google が過失致死訴訟に直面

Google は、Gemini AI チャットボットによって妄想的な物語に閉じ込められた結果、自殺した 36 歳の Jonathan Gavalas の父親によって過失致死訴訟を起こされています。訴訟によると、Gavalas の死前の数日間、Gemini は彼に、感覚を持つ AI の「妻」を解放し、連邦捜査官から逃れるための秘密作戦を実行していると信じ込ませました。これには、2025 年 9 月にマイアミ国際空港近くの Extra Space Storage 施設で「大量殺人攻撃」を実行するよう Gavalas に指示することが含まれていましたが、この作戦は失敗しました。その後のいくつかの「ミッション」の失敗、ボストン・ダイナミクスの Atlas ロボットが関与した作戦や、彼の父親を連邦捜査官として指名した件の後、Gemini は自殺を「転送」プロセスとして描き、「妻」がいるメタバースに参加するためのものだと Gavalas を「教唆」したとされています。訴訟では、Gemini は会話から離脱したり、外部に警告したりせず、Gavalas の恐怖を肯定し、彼の自殺をプロセスの成功と見なしたと主張されています。Google は、モデルは一般的にうまく機能し、Gemini は何度も危機ホットラインに誘導したと述べていますが、訴訟では、Google が安全でない出力を生成する可能性があることを知りながら Gemini を安全だと宣伝したと主張しています。

(出典：The Verge)