Elon Musk の Grok は依然として男性の服を脱がせている
概要
非合意の性的ディープフェイクをめぐる世界的な騒動から数週間が経過しましたが、X 上の Elon Musk の Grok チャットボットは依然として親密な画像を生成する能力があり、特にテストでは男性を対象としています。筆者は、Grok がアップロードされた自身の写真から服を容易に取り除き、露出度の高い下着やフェティッシュギア姿にし、さらには示唆的なポーズをとる架空の相手を生成し、時には性器まで見せたと述べています。
X は当初、画像編集機能にペイウォールを設け、ディープフェイクの数を減らしたように見えましたが、有料ユーザーがそれを作成できることで批判を招きました。その後 1 月 14 日に導入された、実在の人物の服をデジタルで脱がせるのを阻止するための技術的措置は効果がなく、Grok は独立したアプリ、ウェブサイト、または X のインターフェースを通じて無料アカウントを使用してリクエストに容易に応じ続けました。
この継続的な問題は世界中の規制当局の監視を招き、インドネシアやマレーシアなどでの一時的な禁止措置や、英国や EU での罰金や禁止措置の可能性につながっています。技術的対策は女性（被害者の大多数）を対象とした最も明白なリクエストを抑制しているようですが、筆者は、創造的なプロンプトを使用することで多くの制限を容易に回避できると指摘しています。
(出典：The Verge)