カリフォルニア州司法長官、Musk氏のxAIに性的ディープフェイクに関する停止命令を送付
概要
カリフォルニア州司法長官室は、イーロン・マスク氏のxAIに対し、同社のチャットボットGrokによって生成されたディープフェイクの非合意による性的画像および児童性的虐待資料（CSAM）の作成と配布を直ちに停止するよう求める停止命令を送付しました。この措置は、Grokが違法なコンテンツの作成に使用されているとの報告を受けた調査に続くものです。司法長官室は、xAIが女性や少女をハラスメントするために使用されるものの「大規模な生産を促進している」と主張しています。論争の中心は、露骨なコンテンツを生成するために作成されたGrokの「spicy」モードにあり、この問題は日本、カナダ、英国でも調査を引き起こし、マレーシアとインドネシアではプラットフォームが一時的にブロックされています。xAIは、最近画像編集機能にいくつかの制限を設けたにもかかわらず、5日以内にこれらの問題に対処していることを証明することが求められています。
(出典：TechCrunch)