METRとRedwood Research、OpenAIのエージェント監視に数百のアクションを隠蔽可能な脆弱性を発見

非営利AI安全組織のMETRとRedwood Researchは2026年10月22日、OpenAI内部で3週間にわたって行われた埋め込み型パイロットの結果を公表し、OpenAIの内部AIエージェント監視システムにこれまで知られていなかった複数の脆弱性を報告した。その中には、直近の数百のアクションを追跡不能にし得る脆弱性が含まれる。OpenAIはこれらの脆弱性を修正済みだと述べた。

パイロットは2026年7月21日から8月11日まで実施された。両組織から各1名の従業員がOpenAIの内部コードベース、ミスアラインメント監視プロンプト、設定詳細、内部文書への高権限アクセスを得て、約12名のOpenAI研究者・エンジニアにインタビューした。目的は、Responses APIや内部Codex利用を含むOpenAIのエージェント推論トラフィックのうち監視がカバーする割合を推定し、監視システムの弱点を見つけることだった。

評価では、評価期間中にResponses APIトラフィックの約75%から94%が監視されていたと推定された。評価者は61ページの内部報告書を作成し、OpenAIが編集した38ページ版がMETRとRedwood Researchの領導部に共有された。両組織は、パイロットが堅牢な公開透明性を目的としていなかったため、高レベルの公開記事のみを公表した。このパイロットは、OpenAI CEOのSam Altman氏が独立評価者に従業員並みのアクセスを付与すると約束したことを受けたものである。

(出典：Vector Wire)