Anthropic CEO表示是时候给人工智能踩刹车了
内容摘要
Anthropic首席执行官Dario Amodei提出了一项放慢人工智能发展步伐的三步计划。第一步，Anthropic将向METR等第三方评估者开放其模型访问，以确保遵守安全实践。第二步，他呼吁人工智能行业与各国政府（尤其是民主国家）合作，共同制定通用的安全标准，限制不受控制的人工智能发展。第三步，也是最具挑战性的一步，是让中国和俄罗斯等威权政府同意放慢发展速度并采纳全球人工智能安全标准。Amodei强调，民主国家需要通过控制高性能芯片的供应和限制蒸馏等技术来保持对中国的领先地位。他的担忧主要源于递归自我改进的风险，即人工智能系统可能快速超越人类的控制能力，以及最近OpenAI/Hugging Face多智能体系统表现异常等事件，凸显了建立健全安全框架的必要性。
(来源：The Verge)