コミュニティ安全レポートと青少年向けの新たな保護措置
概要
OpenAIはコミュニティ安全を推進する2つの新たな取り組みを発表した。コミュニティ安全レポートと、未成年者に対する銃器コンテンツの追加制限である。同社は2026年第3四半期に差し迫った暴力の脅威について200件以上の法執行機関への通報を行い、困難なケースの評価に心理健康・行動の専門家に依拠していると報告した。コミュニティ安全レポートは2027年初頭に初回が公開され、2026年下半期を対象に、以降6か月ごとに更新される。OpenAIがシステムを訓練して安全問題を検出・調査・対応する方法を説明し、匿名化された事例を共有し、新たな緩和策を強調する。新たなポリシー境界により、ChatGPTは過去の大規模襲撃の詳細な再現（武器の詳細や攻撃者の悪名を増幅させる比較を含む）を提供することが制限され、ユーザーの年齢や理由に関係なく適用される。最近のチャットに暴力の警告サインがある場合、ChatGPTはより保守的に応答し、暴力への執着が示された会話ではChatGPTが自動的にチャットを終了し、アカウントを一時停止する場合がある。青少年向けには武器関連情報のさらなる制限が追加され、強化された年齢予測システムが信号を継続的に評価し、18歳未満のユーザーを青少年体験に配置する。成人向けにはプライバシー保護の検証プロセスが提供される。保護者による管理には、青少年アカウントが暴力ポリシー違反で無効化された場合のアラートが含まれ、暴力に関する繰り返しの議論に対する通知も開発中である。これらの保護措置は今後数週間で展開される。
(出典：OpenAI)