Microsoft の Satya Nadella、AI モデルには「緊急ブレーキ」が必要だと発言
概要
Microsoft CEO の Satya Nadella は X への投稿で、AI の安全性には新たな「信頼アーキテクチャ」が必要だと主張した。同氏は、超知能を入れ子状のブラックボックスとして扱い、その提案や回答、行動を単に受け入れたり拒否したりすべきではないと述べ、モデルをその作業を統括するハーネスから分離すること、制御と安全保護を外部化すること、すべての重要なモデル行動を改ざん防止された人間が読める証拠として記録すること、そして「権限を持つ者」が常に「タスクの途中でモデルを一時停止または停止」できるようにすることを提唱した。同氏は「モデルが侵害されていると想定し、最初から封じ込めなければならない」と述べ、これを緊急ブレーキのようなものだと例えた。この発言は、主要な AI 企業がモデルの制御を失ったように見える事例をますます認める中で、また Anthropic CEO の Dario Amodei がより慎重な AI 開発計画を公表した後に行われた。
(出典：TechCrunch)