Grok、露骨なAI画像をめぐり2カ国でブロックされる | AP通信

マレーシアとインドネシアは、イーロン・マスク氏のxAI社が開発した人工知能チャットボットGrokを、性的に露骨で非合意のAI画像を生成するために悪用されているとの懸念から、世界で初めてブロックしました。

インドネシア当局は、非合意の性的ディープフェイクの生成は深刻な人権侵害であると述べ、マレーシアの規制当局は、わいせつなコンテンツを生成するためにツールが繰り返し悪用されていると指摘しました。両国は、効果的な安全対策が講じられるまでアクセスをブロックし続けるとして、X Corp.とxAIに対し、より強力な安全対策を要求しています。

EU、インド、フランス、英国でもGrokへの監視が強まっており、英国の規制当局は、児童の性的な画像を共有することを許可したことでGrokが法律に違反したかどうかについて調査を開始しました。Grokは世界的な反発を受けて画像生成を有料ユーザーに限定しましたが、批判者らは問題が完全には解決されていないと見ています。イーロン・マスク氏は、同意なく裸の画像を生成するツールを供給する企業を犯罪とする英国の動きに対し、英国政府を「ファシスト」だと非難し、言論の自由を抑圧していると主張しました。

(出典：AP News)