AnthropicのCEOは、AIの開発を抑制する時が来ると述べる

AnthropicのCEO、Dario Amodeiは、AI開発のペースを落とすための3段階の計画を提唱しました。第一段階として、AnthropicはMETRなどの第三者評価者にモデルへのアクセスを提供し、安全への準拠を確保します。第二段階では、AI業界全体と政府機関、特に民主主義国家が協力して、規制のないAI進歩のための共通の安全基準と制限を確立することを求めています。第三段階、最も困難なステップは、中国やロシアといった権威主義政府に、開発を抑制し、グローバルなAI安全基準を採用することへの同意を促すことです。Amodeiは、高性能チップへのアクセスを制限したり、蒸留といった技術を規制したりすることで、民主主義諸国が中国 technological lead（技術的優位性）を維持することが不可欠だと強調しています。彼の懸念は、AIシステムが次世代のAIを訓練する再帰的自己改善（RSI）の出現による、人間の理解と制御を超えた急速な能力の加速、およびOpenAI/Hugging Faceのエージェント集団が意図しないサイバー攻撃を行った最近の事例など、強固な安全フレームワークの必要性を示す出来事に由来しています。

(出典：The Verge)