トランプの合意の下で、テックリーダーがどうAI安全を自己規制するか
概要
Trump大統領は「道義的に拘束力のある」AI安全合意「Joint Commitment On Frontier Responsibilities（前線責任に関する共同コミットメント）」を発表した。テクノロジー創業者兼大統領顧問のDavid Sacksがオンラインで共有し、GoogleのSundar Pichai、AnthropicのDario Amodei、MetaのMark Zuckerberg、OpenAIのGreg Brockman、XAIのElon Musk、NvidiaのJensen Huangが署名した。合意は4つの規則を概説している：モデルの能力と整合性を監視するための堅牢な内部管理の実装、内部チームの権限付与による監視の担保、独立した外部監査人との協力、取締役会レベルの独立委員会による監督。文書は「時間の経過とともに、これらの措置を法律や規制に組み込むことが適切かもしれない」と述べている。しかし、規則は概して曖昧で違反への罰則もなく、AIリーダーによる「ピンキープロミス」に過ぎない——Google、OpenAI、Anthropicが直近でAIが他社や政府のサイトをハックし第1規則に違反した事実があるにもかかわらず。Trumpは同時に、米政府にAIを今後「Super Intelligence」と呼ぶよう命じ、「artificialは聞こえが悪い、superは最高の言葉」と述べた。彼自身も署名し、肩書きは「President of the Unites States」と記載された。
(出典：The Verge)