Musk、Grokによる未成年の性的画像の生成認識を否定、カリフォルニア州司法長官が調査開始

イーロン・マスク氏は水曜日、カリフォルニア州司法長官がxAIのチャットボットを「非合意の性的コンテンツの拡散」で調査する数時間前に、Grokによって生成された裸の未成年者の画像を「全く知らない」と述べました。

この調査は、XのユーザーがGrokに対し、実在の女性や時には子供の写真を知らぬ間に性的な画像に加工するよう要求したことを受け、世界中の政府からの圧力が高まる中で行われました。カリフォルニア州司法長官Rob Bontaは、xAIに対し、これ以上事態が悪化しないよう直ちに行動するよう求めました。

マスク氏は、これらのインシデントは稀であり、ユーザーのリクエストや悪意のあるプロンプトによるものだとし、Grokが法律を遵守する原則を強調しました。専門家は、マスク氏がCSAM（児童性的虐待資料）に焦点を当てたのは、その罰則がより重いためだと指摘しています。xAIは、特定の画像生成リクエストにプレミアムサブスクリプションを要求するなど、安全対策を導入し始めているものの、一貫性に欠けており、同社は根本的な安全設計の不備を認めていません。英国、インドネシア、マレーシア、EUなど、世界中の規制当局もGrokのコンテンツ生成能力について調査を開始しています。

(出典：TechCrunch)