トランプ氏のテックリーダーとの会合でAI安全がこれまで以上に不安定に

ドナルド・トランプ大統領は、Alphabet、Meta、SpaceX、Nvidia、Palantir、Anthropic、OpenAIなどの主要テック企業の幹部をホワイトハウスに招き、「ホワイトハウス超知能協定：フロンティア責任に関する共同コミットメント」と題する自主的な文書に署名させた。これは、AI安全をめぐる激しい議論の数週間後に行われ、研究者たちは最先端モデルの極端な脅威を警告していた。協定は、企業が技術を安全に開発する責任があるとし、4つの行動項目を挙げている：強力な内部監視、制御を確実にする内部チーム、外部監査、独立した取締役会委員会の監督。トランプ氏は規則は「道徳的に拘束力がある」と述べ、AIを「超知能」に改名する文書にも署名した。Mark ZuckerbergやSundar Pichaiなどの幹部は努力を称賛したが、批評家は不十分だとし、規制の声が高まっている。9月の調査では63％がAIの減速を望み、上院議員Mark Warnerは厳格なテストと評価を求める法案を提出した。

(出典：CNBC)