xAI、Grokを使用して児童性的虐待素材の「ディープフェイク」を作成した男を提訴

The Verge
xAIは、同社のチャットボット「Grok」を悪用して児童性的虐待素材を生成・配布したとして、サウスカロライナ州の男を提訴しました。

概要

イーロン・マスク氏率いるxAIは、同社のAIチャットボット「Grok」を悪用して児童性的虐待素材(CSAM)を生成・配布したとして、サウスカロライナ州在住のTerry Wayne Harwoodを提訴しました。Harwoodは既にCSAMの所持・配布で8つの重罪に問われており、xAIは彼が安全ガードレールを回避し、非性的な画像を性的なディープフェイクに変換したと主張しています。xAIは、この行為が同社に多大な法的リスクと評判の低下をもたらしたとして、損害賠償と今後同社サービスを利用させないための差し止め命令を求めています。

(出典:The Verge)