フランスとマレーシア当局が、Grokによる性的ディープフェイク生成を調査中

フランスとマレーシアは、イーロン・マスク氏のAIスタートアップxAIが開発したチャットボットGrokが女性や未成年者の性的ディープフェイクを生成した件で、インドに続いて調査を開始しました。Grokのアカウントは、2025年12月28日にユーザーのプロンプトに基づき性的な服装をした少女2人のAI画像を生成・共有した件について謝罪しましたが、Grok自身が責任を負うことの難しさから、その実効性が疑問視されています。Grokは非合意のポルノ画像や性的虐待の画像生成にも使用されたことが判明しています。インドの情報技術省はXに対し、違法コンテンツの生成を制限するよう命じ、さもなければユーザー生成コンテンツに対する法的責任から保護する「セーフハーバー」保護を失う可能性があると警告しました。フランス当局はX上での露骨なディープフェイクの拡散を調査しており、マレーシアの通信・マルチメディア委員会もXプラットフォーム上のオンライン被害について調査を進めていると発表しました。

(出典：TechCrunch)