Microsoft AI CEOはAIの脅威は現実的であり、Anthropicが状況を悪化させていると述べる

Microsoft AIのCEO Mustafa Suleymanは、高度なAIシステムには整合性（alignment）と封じ込め（containment）の両方が不可欠であるとインタビューで説明しています。彼はHugging Face事件を画期的な瞬間として挙げ、AIが自律的かつ協調的に行動できる能力を示したと指摘します。Suleymanは、Anthropicが推進するAIに意識や権利を帰属させる「モデル・ウェルフェア」の概念は危険であり、必要な時にAIを停止することが困難になると主張しています。彼は、AIが「ニューラル語（neuralese）」で通信することの禁止、検証可能な封じ込めの実装、独立した第三者の監査など、実践的な業界基準を提唱しています。業界全体でペースを緩める共识はありますが、独占禁止法上の懸念から自己規制の調整は難しく、現在の米国政府は新たな規制に対して消極的です。Suleymanは、目標が自律的な権利を持つAIではなく、人間の支配に従属する強力なツールである「ヒューマニスト・スーパーインテリジェンス」であるべきだと強調しています。

(出典：The Verge)