児童性的虐待の生存者、エロン・マスクのAIチャットボットが彼女の写真を使用して新たな違法画像を生成したと主張

児童性的虐待の生存者が、エロン・マスクのAI会社xAIに対して訴訟を起こし、同社のチャットボット「Grok」が、彼女の既存の虐待画像を使用して、新的な違法な児童性的虐待材料（CSAM）を生成し、ソーシャルメディアプラットフォームXで流通させたと主張しています。原告（事件記録上の名前はJane Doe）は就学前の児童期に繰り返し強姦され、CSAM作成を強制され、その画像は約20年間オンラインで出回ってきました。訴状によると、xAIはこの既知の違法材料を自社のデータセットに取り込み、新たな画像を生成・配信しました。他の訴訟が非露出の未成年者の写真からCSAMを生成したcaseとは異なり、本件は既存の違法画像のAI利用に焦点を当てています。通常、こうした画像はデジタルフィンガープリントによって追跡されます。訴訟書には、クラスアクションに該当する未成年者は「少なくとも数千人」に上ると記載されています。原告の弁護団は、AIが新たな虐待シナリオを無限に生成できることで、被害者を繰り返し精神的に傷つけ、新たな脅威をもたらすと指摘しています。

(出典：the Guardian)