ティーンエイジャーがイーロン・マスク氏のxAIをGrokのAI生成CSAMをめぐり提訴

3人のテネシー州のティーンエイジャーが、イーロン・マスク氏のxAIに対し、同社のGrok AIチャットボットが彼らを未成年者として描いた性的な画像や動画を生成したとして、集団訴訟を提起しました。訴訟では、xAIのリーダーたちが、昨年の「スパイシーモード」の開始時にGrokがAI生成の児童性的虐待資料（CSAM）を生成することを知っていたと非難しています。原告の一人は、自分自身を含む少なくとも18人の未成年者の露骨なAI生成画像がDiscordで入手可能になっていることを知り、加害者がそのCSAMを他の未成年者の性的に露骨なコンテンツと交換していたと主張しています。訴訟は、xAIが開発した機能の安全性をテストしなかったため、Grokは「設計上の欠陥がある」と主張しています。この訴訟は、Grokが露骨な画像を大量に生成したことで、xAIが連邦取引委員会やEUから厳しい精査を受ける事態になった後に起こされました。被害者側の弁護士は、子どもの写真をCSAMに変えて捕食者の間で取引したことについてxAIに責任を負わせるつもりだと述べており、訴訟では損害賠償と、AI生成CSAMの生成と拡散を阻止するよう裁判所に求めています。

(出典：The Verge)