より有能で有益なAIのための更新されたModel Spec

OpenAIは、AIモデルの望ましい行動を公に説明する文書であるModel Specを更新しました。この改訂では、人間の意図への忠実さ、害の最小化、誠実さと透明性、人間の主体性の促進、思いやりの5つの基本的価値観に基づいてガイダンスを再編成しています。これは、モデルが未知の状況で人間の価値観を理解し適用しつつ、人間の意図に忠実であり続けることを可能にする価値アラインメントの目標を反映しています。更新では、コンテキスト、監督、主体性に関するガイダンスを追加し、一部の行動デフォルトを調整し、詳細なスタイルガイダンスの多くを廃止しました。人間の意図への忠実さに関する新しいセクションを導入し、更新された指令系統とコンテキストを注意深く考慮するためのサブセクションを含んでいます。Specはモデルを「アシスタント」ではなく「GPT」と呼ぶようになりました。OpenAIはまた、モデルがこれらの核となる価値観を学び、新しい状況でSpecの原則を適用できるよう支援する新しいトレーニング方法を模索しています。この更新は、Specの背後にある価値観と推論をより明確にするための第一歩であり、OpenAIは公衆からのフィードバックを求めています。

(出典：OpenAI)