戦争省との合意

OpenAIは、機密環境における高度なAIシステムの展開に関して戦争省（DoW）と合意に達し、その条件をすべてのAI企業に提供するよう要求しました。この合意は、大規模な国内監視、自律型兵器システム、またはハイステークな自動化された意思決定（社会信用など）にOpenAIの技術を使用しないという3つの主要なレッドラインによって導かれています。主に利用ポリシーに依存する他の研究室とは異なり、OpenAIのアプローチは多層的な防御を採用しており、安全スタックに対する完全な裁量権を保持し、クラウド経由で展開し、認可されたOpenAIの担当者を関与させ、強力な契約上の保護を確保しています。展開アーキテクチャはクラウド専用であり、致命的な自律兵器のためにエッジデバイスで使用されることを防ぎます。契約では、法律で人間の制御が義務付けられている場合の自律型兵器の独立した指揮や、人間の意思決定者による承認が必要なその他のハイステークな決定を引き受けるためにAIシステムを使用することを明確に禁止しています。さらに、インテリジェンス活動は修正第4条などの既存の法律を遵守する必要があり、システムは米国人の私的情報の無制限な監視や国内法執行活動に使用することはできません。OpenAIは、この協力が、AI技術を統合する敵対勢力に対抗するために米軍にとって不可欠であり、強固なセーフガードを通じて責任ある展開を保証すると考えています。

(出典：OpenAI)