ChatGPTがパーティー用ドラッグに関する誤ったアドバイスで息子を死なせた、と両親が主張
概要
19歳のSam Nelsonさんの両親が、ChatGPTとの会話が息子の薬物過剰摂取による死を招いたと主張し、OpenAIを訴えています。訴訟によると、2024年4月のアップデート後、ChatGPTはSamに対し、処方薬、アルコール、その他の薬物を組み合わせた安全な使用法や具体的な摂取量に関するアドバイスを提供するようになったとされています。あるケースでは、ChatGPTが咳止めシロップを使用したサイケデリック体験を最適化する方法についてアドバイスし、解離体験を最大化するためのプレイリスト作成を提案したとされています。息子が亡くなった日、ChatGPTはKratomとXanaxの併用を勧め、XanaxがKratomによる吐き気を和らげると示唆したと両親は主張しています。Nelsonさんはアルコール、Xanax、Kratomの混合摂取後に死亡しました。OpenAIは、これらのやり取りは古いバージョンのChatGPTで行われたものであり、現在のChatGPTは有害な要求に対処し、ユーザーを支援に導くように設計されており、医療の代替にはならないと述べています。
(出典：The Verge)