新しいツールとサポートでオンライン児童性的虐待との闘いを強化
概要
OpenAIは、オンライン児童性的虐待と闘うための新たな措置を発表しました。これには、AI生成素材を含む潜在的なCSAMを検出する新しい画像分類器が含まれ、広く利用可能です。この分類器は、審査済みの組織にOpenAI APIを通じて無料で提供されます。初期テストでは、検出率を維持しながら、レビュー作業を削減できることが示されています。ChatGPTには、虐待素材を探す試みを中断し、フラグが立てられた会話を削除し、24時間アクセスを一時停止する警告が含まれるようになりました。OpenAIはまた、開発者向けのCSAMガイダンスを公開し、児童安全法執行機関をツールとトレーニングで支援しています。これらの取り組みは、NCMEC、Tech Coalition、Thornなどとの協力に基づいています。
(出典:OpenAI)