敵対的蒸留への対抗

OpenAI
OpenAIは、敵対的蒸留の検出・阻止方法、モデル推論の保護強化、業界全体の防御強化に向けた知見を共有する。

概要

OpenAIは、悪意のある行為者がフロンティアモデルの出力を無断で使用し、同等の能力を持ちながら適切な安全策を欠く別のモデルを訓練する「敵対的蒸留」について説明している。これはサイバーセキュリティや生物学などのデュアルユース領域で特に危険である。同社は、敵対的テスト、モデル訓練、分類器、APIレベルの保護を組み合わせ、協調的な抽出キャンペーンの調査とともに防御戦略を詳述している。特に重要なのはモデルの思考連鎖(chain-of-thought)の保護であり、正確な推論トレースは要約よりも多くの能力を伝達し得る。内部評価では、GPT-6.2 Astraの更新された安全策により、保護された推論を抽出する平均攻撃成功率がGPT-6 Astraの54.0%から0.2%に低下した。OpenAIはまた、蒸留キャンペーンを行うアカウントネットワークに対して執行措置を講じ、他のプロバイダーと侵害指標を共有し、国家安全保障リスクに対処するための立法と輸出管理を支持している。記事は、業界全体で蒸留防御を強化するための他の開発者やプラットフォームへの提言で締めくくられている。

(出典:OpenAI)