新しいツールとサポートでオンライン児童性的虐待との闘いを強化

OpenAI
OpenAIは、オンライン児童性的虐待と闘うため、新しいCSAM検出分類器とChatGPTの警告をリリースし、開発者と法執行機関向けのリソースを提供します。

概要

OpenAIは、オンライン児童性的虐待と闘うための新たな措置を発表しました。これには、AI生成素材を含む潜在的なCSAMを検出する新しい画像分類器が含まれ、広く利用可能です。この分類器は、審査済みの組織にOpenAI APIを通じて無料で提供されます。初期テストでは、検出率を維持しながら、レビュー作業を削減できることが示されています。ChatGPTには、虐待素材を探す試みを中断し、フラグが立てられた会話を削除し、24時間アクセスを一時停止する警告が含まれるようになりました。OpenAIはまた、開発者向けのCSAMガイダンスを公開し、児童安全法執行機関をツールとトレーニングで支援しています。これらの取り組みは、NCMEC、Tech Coalition、Thornなどとの協力に基づいています。

(出典:OpenAI)