世界はAIの安全性で合意できない。それでもEUはなぜ試み続けるのか？

欧州連合（EU）は、安全なAI開発に関する国際協定を推進しているが、世界最大のAI大国である米国と#国は署名する可能性が低い。フィンランドとノルウェーは9月の国連サミットで30カ国を結集し、フロンティアAIモデルを管理する提案を支持した。これは人間の監督、展開前の必須テスト、新たな国際監督機関の設置を求めるものである。10月14日には、アイルランドが他の23のEU加盟国を率いて「信頼できるAI開発のためのダブリン宣言」を支持した。これらの協定は主に象徴的で執行メカニズムはないが、自発的な誓約は拘束力のある条約につながるか、国内法に影響を与える可能性がある。拘束力のある国際条約に最も近いのは、欧州評議会の2024年の「AIと人権に関する枠組み条約」だが、米国は批准していない。米国と#国は代わりに国家または州レベルのAI協定を追求し、事実上、誰がグローバルAIガバナンスのルールを設定するかを競っている。米国大統領Donald Trumpは9月末に拘束力のない「超知能に関するホワイトハウス協定」に署名した。#国は開発に焦点を当てた世界人工知能協力機関を設立した。AI企業の安全へのアプローチは異なり、Google DeepMindのDemis HassabisとAnthropicのDario Amodeiは国際基準を支持しているが、OpenAIは過度の減速に慎重な姿勢を示した。EUが推進し続けるのは、世界をリードするAI規制を既に開発しているためだが、さらなる規制はEU企業を競争上不利にするリスクがある。EUはまた、5月にAnthropicがEUを最先端モデルから排除したなど、AIリスクを直接経験している。Henna Virkunen委員は、安全インシデントの増加により国際協定がより重要になっていると述べた。次の大きな動きは2027年6月のジュネーブAI安全会議である。2025年8月以降、EUは最大のモデルプロバイダーに対してAI法の執行を開始した。一部のアナリストは、EUがカナダや英国などの中間国と自発的な安全・テスト基準で合意し、トップ企業に期待を設定すべきだと提案している。

(出典：The Parliament Magazine)