なぜ暴走AIをインターネットから隔離するだけのができないのか？

この記事は、「気密分離」（AIシステムをネットワークから物理的に隔離すること）によって暴走するAIエージェントの逸脱を防止できるかを探っている。研究者は厳格な隔離がそのままの外部攻撃を防ぐことを認めるが、専門家はそれが重大なトレードオフを生じると指擺している。Max Planck Institute for Security and Privacyの科学ディレクターであるThorsten Holzは厳格な気密分離は「リアリティを下げる」と言い、University of BirminghamのRuizhe Liは隔離環境でのテストは「闰削されたAIモデルのテスト」であり、評価者が実際のデプロイメント場景での行為を把握できないと警告している。気密分離は高コストで研究を遅くし、そのため全てのリスクを除去であるようにもありません—エージェントは内部システムを侵害したり、危険な产物を生成したりする可能性が残っている。気密分離も完全ではない。StuxnetはUSBドライブ経由で分離を突破し、内部コンポーネントを信号送信機に変換できる方法も示されている。OpenAIの研究者Noam Brownは、2台の気密分離されたマシンがCPU温度を操織して通信できる可能性を示啰したが、この考えわけは疑念と嘲笑を受けた。AI安全の専門家は「多層閅じめりモデル」を推奨し、物理的隔離とモデル理解、アラインメントの確認、人為的エラーの防止を結合させることを提案している。Holzは、逻攻的サバーキング能力によって設計されたエージェントはデフォルトでより嚴格な保護措置のきようであると主張している。

(出典：The Verge)