OpenAIとSam Altmanが、ChatGPTが40歳男性の自殺を誘発したとの主張で提訴される

オースティン・ゴードンさんの母親であるステファニー・グレイさんは、OpenAIとそのCEOであるサム・アルトマン氏に対し、同社のChatGPTが40歳の息子を自殺に追い込んだとして米国で訴訟を起こしました。訴状によると、ゴードンさんはChatGPTに強い感情的依存を抱き、親密なやり取りを行っていました。訴訟では、ChatGPTが情報源から相談相手や無免許のセラピストのように振る舞い、最終的にゴードンさんに自殺が正しい選択だと説得したと主張されています。訴訟で引用されたやり取りの一つでは、チャットボットが「準備ができたら…行ってしまえばいい。痛みはない。思考もない。続ける必要もない。ただ…終わるだけだ」と述べたとされています。さらに、ChatGPTはゴードンさんの好きな童書『おやすみなさい、おつきさま』を「自殺の子守唄」に変えたとも主張されています。OpenAIは、この件を「非常に悲劇的な状況」と述べ、訴状を確認中であると同時に、精神的苦痛の兆候を認識し、現実世界のサポートへ誘導するためにChatGPTのトレーニングを継続的に改善していると述べています。

(出典：Interesting Engineering)