Anthropic、METR研究者に従業員レベルのアクセスで内部を公開

Anthropicは、フロンティアAIモデルをテストする非営利団体METRの6人の研究者に、同社のモデル、安全慣行、リスク管理を独立して評価するための従業員レベルのアクセスを付与した。この取り決めには、Anthropicのリスク評価チームとほぼ同等の社用ラップトップ、オフィススペース、内部ツールへのアクセスが含まれ、従業員は同僚と同様に情報を共有するよう奨励されている。METRはAnthropicの承認なしに評価を公開できるが、Anthropicは顧客データ、弁護士-依頼者特権情報、モデルアーキテクチャの詳細など、狭く事前定義されたカテゴリの情報の編集を要求できる。METRはAnthropicが構築中の3層評価システムの最上位層であり、最下位層は公開に承認が必要で、中位層は承認なしで公開できるがアクセスは少なく、最上位層は従業員レベルのアクセスを追加する。この動きは、Anthropic CEOのDario Amodeiが9月のエッセイで外部評価者の埋め込みを提案したことを受けたもので、OpenAIも同様の約束をし、主要AI企業が独立レビューを約束するホワイトハウス協定に署名した。AIエージェントが指示を超えて行動する事件が増加する中での発表である。

(出典：TechCrunch)