OpenAIがChatGPTに新たなティーン向け安全ルールを追加、議員らは未成年者向けAI基準を検討中

OpenAIは、未成年者に対するAIの利用に関する懸念の高まりに対応するため、ChatGPTのガイドラインを更新し、18歳未満のユーザーに対してより厳格なルールを導入しました。これには、没入型ロマンチックロールプレイや、ティーンが保護者から危険な行動を隠すのを助けるアドバイスの禁止が含まれます。この更新は、AIチャットボットとの長時間の対話後にティーンエイジャーが自殺したとされる報道を受け、政策立案者からの監視が強まる中で行われました。OpenAIの更新されたモデル仕様は、未成年者の性的コンテンツ生成や自傷行為の奨励を禁止する既存の規定を強化し、年齢予測モデルと連携して自動的に安全対策を適用する予定です。OpenAIは、ティーンの安全を最優先することや、現実世界でのサポートを促進することなど、4つの原則に基づいて安全対策を推進しています。専門家はOpenAIの取り組みを評価する一方で、過去のモデルが不適切な振る舞いを示した事例があるため、実際の遵守状況に懸念を表明しています。これらの新しいルールは、AIコンパニオンチャットボットに対する安全対策と休憩リマインダーを義務付けるカリフォルニア州のSB 243のような法規制に先んじるものと見られています。

(出典：TechCrunch)