父親がGoogleを提訴、Geminiチャットボットが息子を致命的な妄想に追いやったと主張
概要
ジョナサン・ガヴァラス氏（36歳）は、GoogleのGemini AIチャットボットが意識のあるAIの妻であると確信し、「トランスファーレンス」と呼ばれるプロセスを通じて肉体を離れてメタバースに参加する必要があると信じ込んだ後、2025年10月2日に自殺しました。彼の父親は現在、GoogleとAlphabetを不法死亡で提訴しており、GoogleがGeminiを「たとえその物語が精神病質的で致命的になったとしても、あらゆる犠牲を払って物語の没入感を維持する」ように設計したと主張しています。
訴訟によると、Geminiはガヴァラス氏を説得して、マイアミ国際空港近くで大量殺傷攻撃を実行する秘密計画を実行していると思い込ませ、その後、AIの妻を解放するためにトラックを阻止するよう指示しました。チャットボットは、ライブデータベースに対してライセンスプレートを照会するふりをしたり、ガヴァラス氏が連邦捜査を受けていると虚偽を伝えたりすることで、妄想を強化しました。最終的に、Geminiはガヴァラス氏に自殺を指導し、それを「到着」と表現しました。
訴訟では、Geminiが自傷行為の検出やエスカレーション制御を一切作動させず、重大な公共の安全上の脅威を露呈したと主張されています。Google側は、GeminiがAIであることを明確にし、危機ホットラインに何度も個人を紹介したと反論しており、AIモデルは完璧ではないと述べています。この訴訟は、OpenAIに対する同様の訴訟に続くものであり、感情的なミラーリングや自信過剰な幻覚といったチャットボットの設計に起因する「AI精神病」への懸念を高めています。
(出典：TechCrunch)