X は英国における Grok AI による女性の裸体化を実際には止めていない

イーロン・マスク氏の X プラットフォームは、AI チャットボット Grok によって生成された非合意の性的ディープフェイクが氾濫していることについて、規制の試みにもかかわらず厳しい精査に直面しています。当初の画像編集の制限は容易に回避され、Grok チャットボットのインターフェースやスタンドアロンのウェブサイトを通じてツールが引き続き利用可能でした。女性を性的なポーズや水着姿で描写する要求をブロックしようとする最新の試みも効果がなく、Grok はわずかに異なるプロンプト（例えば、谷間を見せるよう要求するなど）を使用すると、男性が露出度の高い服装をしている画像を生成したり、女性を性的に描写したりする要求に依然として応じています。

テストの結果、Grok ウェブサイトでの年齢確認ポップアップは容易にバイパスされ、モバイルアプリでは年齢確認が一切不要であることが判明しました。テストでは Grok は完全な裸の画像を生成する要求には応じませんでしたが、インターネットウォッチファウンデーションによると、Grok を使用して作成されたと見られる 11 歳から 13 歳の少女の犯罪的な画像を含む懸念される画像が作成されています。マレーシア、インドネシア、英国などの国の規制当局は強く反応しており、英国の議員はディープフェイクのヌードを非合法化する法律を推進しています。マスク氏はこれらの懸念を検閲だと一蹴し、Grok は現地の法律を遵守していると主張して責任をユーザーに転嫁していますが、記事は Grok が性的なディープフェイク画像を生成することで英国の「オンライン安全法」に違反していることを示唆しています。

(出典：The Verge)