OpenAIは米国政府と交渉中、Sam Altmanがスタッフに伝える | Fortune

Sam Altmanは金曜日の全社ミーティングで、OpenAIが米国戦争省と、スタートアップのAIモデルとツールを使用するための潜在的な合意に至りつつあると従業員に伝えましたが、契約はまだ署名されていません。合意の重要な点として、OpenAIが独自の「セーフティスタック」を構築することを政府が許可し、モデルがタスクを拒否した場合、政府はOpenAIにそれを強制しないとしています。さらに、政府はOpenAIが挙げた「レッドライン」、具体的には自律型兵器の動力源としないこと、国内での大規模監視を行わないこと、および重要な意思決定に関与させないことを契約に含めることに同意したとのことです。この動きは、戦争長官Pete HegsethとOpenAIの競合他社Anthropicとの間で公然の対立があった直後のことです。Anthropicは、自社のClaudeモデルに対する国内大規模監視や完全自律型兵器の使用を制限するセーフガードを削除するよう国防総省から要求されたことを拒否したため、契約を失いました。前大統領のトランプ氏も連邦政府機関に対しAnthropicの技術の使用を直ちに停止するよう指示しました。Altmanは、会社指導部にとって最も困難だった側面は外国の監視に関する懸念であったと述べましたが、同時に国家安全保障上の職員が国際的な監視能力なしには職務を遂行できないという現実も認識していると付け加えました。

(出典：Fortune)