マイクロソフト幹部、すべてのAIは「侵害されている」と発言、規制は牛乳より少ない

マイクロソフトのCEO、Satya Nadella氏と社長のBrad Smith氏は、人工知能の安全性について厳しい警告を発した。Nadella氏はXへの投稿で、すべてのAIモデルは潜在的に危険で「侵害されている」と想定すべきであり、タスクの途中で一時停止またはシャットダウンできる能力を含む安全策を最初から組み込む必要があると述べ、これを緊急ブレーキに例えた。高度な超知能モデルには標準化されたより高度な封じ込め技術が必要だとし、AI企業は厳格なエンジニアリング手法を採用すべきだと強調した。Brad Smith氏はITV Newsに対し、AIは現在、洗濯機や牛乳よりも規制が少なく、公共の信頼を築くために緊急の世界的な安全規則が必要だと語った。別のBBCインタビューでSmith氏は、制御不能なAIシステムを止めるための緊急ブレーキと「キルスイッチ」の必要性を繰り返した。これらの訴えは、Google DeepMindやAnthropicからの同様の警告に続くもので、最近のサイバー攻撃や最先端AIモデルに関わる事件を受けて緊急性を増している。

(出典：The Independent)