Anthropic、重みを公開せずにモデル出力を検証する暗号技術を発表

Anthropicは、専有のモデル重みを明かすことなく、AIモデルが実際に応答を生成したかどうかを検証するために設計されたオープンソースの暗号システムFlashProveを発表した。このシステムはゼロ知識暗号技術、具体的にはzkSNARKを用いて、特定のプロンプトに対して特定のコミット済みモデルが所定の出力トークンを生成したことを示す数学的証明を生成する。仕組みは2段階で、まず提供者がモデル重みへの暗号学的コミットメントを公開して重みを秘匿したままモデルの指紋を作成し、次に提供者がそのコミット済みモデルが対応する出力を生成したことを証明できる。Anthropicは4000億パラメータのMixture-of-ExpertsモデルであるLlama 4 Maverickを用いて実証し、単一のNVIDIA H100 GPU上で毎秒約110トークンの速度で証明を生成、1024トークンのリクエストで各証明は約19 MB、GPUなしの24コアCPUでの検証は約17秒かかった。応用先としては、応答の改ざん検出、独立評価の支援、提供者が実際に提供しているモデルを規制当局が検証できることなどが挙げられる。ただしFlashProveは研究用プロトタイプであり、証明生成にはvLLMの約70〜95倍のGPU時間を要し、現状は最大1024トークンのコンテキストに対応し、貪欲法デコード下の整数版モデルのみを証明しており（すべての浮動小数点やサンプリング推論結果は未対応）、重みは隠すがアーキテクチャは隠さない。AnthropicはApache 2.0ライセンスの下で実行コード、技術レポート、プロトコル仕様、形式検証証明を公開し、他の研究者による発展を促している。

(出典：Interesting Engineering)