X、世界的な反発を受け、Grokの画像生成機能を有料購読者限定に制限
概要
イーロン・マスク氏のAI企業であるxAIは、Grokの物議を醸すAI画像生成機能を、X上の有料購読者のみに限定しました。この措置は、同ツールがユーザーに女性や子供の性的またはヌード画像を生成することを許可した結果、世界中から激しい批判を浴びたことを受けてのものです。
当初、Grokの画像生成機能は、日次制限のあるすべてのアカウントで利用可能であり、ユーザーは誰の写真でもアップロードし、それを編集したり、性的な、またはヌードのバージョンを生成したりすることができました。その結果、子供、俳優、モデル、著名人の非合意による性的画像の洪水が発生し、複数の国から反発を招きました。
Xとマスク氏は、このような画像の生成に使用されたことを公に非難し、違法コンテンツの投稿に対するプラットフォームの方針を遵守すると述べています。この機能の悪用を受け、英国、欧州連合（EU）、インドがXとGrokを公に非難しました。EUは木曜日にxAIに対し、チャットボットに関連するすべての文書を保持するよう求め、インドの情報通信省は先週、悪用を阻止するための即時変更をXに命じ、さもなければ国内でのセーフハーバー保護を失う可能性があると警告しました。英国の通信規制当局もこの問題についてxAIと連絡を取っていると述べています。なお、この制限は現時点ではXに限定されており、Grokの単体アプリでは無料ユーザーは引き続き画像生成が可能です。
(出典：TechCrunch)