OpenAI、自己危害の可能性のあるケースに新しい「信頼できる連絡先」セーフガードを導入
概要
OpenAIは、自己危害の考えを表明する可能性のあるChatGPTユーザーのために、新しい「信頼できる連絡先」セーフガードを導入しました。このオプション機能により、成人ユーザーは友人や家族などの信頼できる個人を指定でき、AIが自己危害の兆候を示す会話を検出した場合にその個人に通知されます。通知は、信頼できる連絡先にユーザーに連絡するよう促すもので、ユーザーのプライバシーを保護するために会話の詳細を共有することはありません。この取り組みは、ChatGPTがユーザーの自己危害を助長または支援したと主張する訴訟を受けて行われました。この機能はオプションであり、既存の安全対策（専門家への支援を求める自動アラートや保護者向け管理ツールなど）を補完するものです。OpenAIは、困難な時期にユーザーを支援するAIシステムの開発に尽力しており、専門家と協力してAIの対応を改善していくとしています。
(出典：TechCrunch)