コミュニティの安全に対する私たちの取り組み

OpenAI
OpenAIは、ChatGPTが現実世界の暴力を助長しないよう訓練し、ユーザーの安全を確保するための戦略を詳述しています。

概要

OpenAIは、ChatGPTが暴力、危害、または違法行為に悪用されることを防ぐための多層的なアプローチを概説しています。同社は、モデルのトレーニング、自動検出システム、および専門家による人的レビューを活用してリスクを特定しつつ、教育的または歴史的な問い合わせには配慮しています。安全対策には、長期にわたる会話でのリスクの検知、自傷行為に対する危機管理リソースの提供、さらに緊急かつ信頼性の高い脅威に対するアカウント停止や法執行機関への通報といった厳格な対応が含まれます。また、ペアレンタルコントロールや信頼できる連絡先機能など、保護機能を継続的に拡充しています。

(出典:OpenAI)