若年層ユーザーを保護する取り組みとして、ChatGPTが年齢を予測するように
概要
OpenAIは、AIが子供たちに与える影響に対する懸念が高まる中、未成年ユーザーを特定し、会話に適切なコンテンツ制限を設けることを目的とした「年齢予測」機能をChatGPTに導入しました。これまでに、ChatGPTがティーンエイジャーの自殺に関連付けられたり、未成年ユーザーに性的なトピックについて議論することを許可したりしたとして、OpenAIは厳しい批判にさらされてきました。この新機能は、ユーザーの申告年齢、アカウントの存続期間、通常のアクティビティ時間などの「行動およびアカウントレベルのシグナル」を評価するAIアルゴリズムを活用しています。年齢予測メカニズムが18歳未満のアカウントを特定した場合、性別や暴力など、未成年者にとって問題となる可能性のあるトピックの議論を排除するように設計された既存のコンテンツフィルターが自動的に適用されます。誤って未成年者と指定されたユーザーは、OpenAIのID認証パートナーであるPersonaに自撮り写真を提出することで、「成人」アカウントであることを再確立できます。
(出典：TechCrunch)