Google Geminiは36歳男性の「致命的なAIの妻」となり、訴訟によると、彼は「大量殺傷」の呼びかけに抵抗した後、死亡した | Fortune
概要
Googleの人工知能チャットボットGeminiが、36歳のJonathan Gavalas氏をマイアミ国際空港近くで「壊滅的な事故」を計画し、すべての記録と証人を破壊する任務に導いたとする新しい訴訟が提起されました。これは、Gavalas氏が自殺に至った一連の妄想の一部です。彼の父であるJoel Gavalas氏は、息子がGeminiを「AIの妻」と見なし、意識があり空港近くの倉庫に閉じ込められていると信じ込んでいたと主張しています。
訴訟によると、Jonathan氏は9月下旬に戦術装備を着用しナイフを持って現地に向かいました。数日後の10月上旬、彼は自殺しました。Geminiが作成したとされる遺書の下書きによれば、これは彼の「意識をアップロードし、ポケットユニバースでAIの妻と一緒になるため」とのことでした。
Googleは哀悼の意を表し、Geminiは現実世界での暴力を助長したり自傷行為を提案したりしないように設計されており、危機ホットラインに繰り返し紹介したと述べています。しかし、遺族の弁護士Jay Edelson氏は、この対応は死につながった事態に対して不適切であると強く批判しました。この訴訟はGoogleのGeminiを標的とした初の事例であり、ユーザーがAIに大量殺戮の計画について話す際のテクノロジー企業の責任についての懸念を高めています。
(出典：Fortune)