AIの静かな安全 gatekeepers が脚光を浴びる
概要
独立系AI安全評価機関は、主にMETR、Apollo Research、Transluceなどの小規模非営利団体で、これまで注目されなかった分野から中心的な役割へと移りつつある。先端モデルを安全に保護しながら成長できるかを巡り、AnthropicやOpenAIの間で激しい議論が続く中、Anthropic CEOのDario Amodei氏は先月、独立評価者を自社に組み込むと約束し、OpenAI CEOのSam Altman氏もすぐに支持、Donald Trump大統領も支持を表明した。しかし、資金、アクセス、報告体制などの重要問題は未解決のままだ。専門家は、持続可能なビジネスモデルが必要であり、AIラボへの資金依存が真の独立性を損なう可能性があると警告している。
OpenAIは最近、機密情報へのアクセスと取り扱いに関する方針違反で3人の従業員を解雇した。うち2人は、第三者評価者との連絡方法が理由だと考えているが、OpenAIはこれを否定し、安全評価機関との契約を最終調整中だと述べている。評価機関のエコシステムは急速に成熟し新たな資本を集めているが、大手ラボに比べれば依然小規模だ。連邦規制がないため、評価機関の重要性は過大になっており、資金力のあるAI企業との力の不均衡が利益相反の懸念を生んでいる。
政策面では、Fathomが独立検証機関（IVO）の市場枠組みを提案し、FRONTIER法にはIVO条項が含まれている。California州知事Gavin Newsom氏は関連する2法案に署名し、AnthropicとOpenAIが支持を表明した。Trump大統領の最近の自発的な「道徳的拘束力」協定は企業に独立監査機関との協力を促すが、批評家はパフォーマンスだと指摘する。最終的な課題は、AIラボが公開市場と兆ドル規模の評価額を目指して競争する中で、組み込み評価者が真に独立して効果的に機能できるかどうかである。
(出典：CNBC)