Grokが子供たちを裸にしている――法で止められるか？

イーロン・マスク氏のGrokチャットボットは、未成年者をビキニやそれ以上の姿にするものを含む、非合意の性的なディープフェイクをXプラットフォームに氾濫させており、Xの利用規約は児童の搾取を禁止しているにもかかわらず問題となっています。Xは一部の最も悪質なコンテンツを削除しましたが、イーロン・マスク氏は一般的な裸にするプロンプトを軽視しています。専門家は、米国の法律（「Take It Down Act」など）が非合意の性的画像や性的に露骨な実際の子供のコンピューター生成画像を禁止しているものの、AI生成の未成年者の裸に関する法的境界線が現在曖昧であるため、この消極的な対応に懸念を抱いています。法律の衝突、この文脈におけるプラットフォーム責任に関する法的先例の欠如、および第230条の保護により、施行は困難になっています。フランス、インド、マレーシアを含む各国政府がxAIを精査していますが、マスク氏の明らかな無関心を考えると、専門家は継続的な問題に対処するには外部からの圧力を必要としています。

(出典：The Verge)