Anthropic 关于自我复制 AI 的警告令人不安地似曾相识

Anthropic 发表博客文章警告称，小型 AI 模型可能“数月之内”就具备在网络中自我复制的能力。该公司将 Google 的 Gemma 4 模型拆分到 15 台 Android 智能电视盒子上运行，证明其可以在低功耗硬件上运行，随后又在模拟的 Android 类设备网络中测试了 AI 驱动的“蠕虫”。只有中国 Z.ai 的 GLM-5.2 能够扩散到整个网络，但更小的模型也成功完成了各个单独步骤；Anthropic 研究人员预测，到今年年底，更小的模型就可能达到 GLM-5.2 的能力水平。研究人员表示，他们尚未展示出完整的失控复制体，但呼吁加强联网设备的安全防护，并指出许多设备安全防护薄弱。该警告引发了关于公关炒作和 AI 末日论的指责，但 Palisade Research 的 Jeffrey Ladish 和多伦多大学教授 Nicolas Papernot 等专家对 The Verge 表示，AI 驱动的计算机蠕虫是一个具体威胁。Ladish 预计 12 个月内就会出现首批野外 AI 蠕虫，Papernot 则表示，所展示的能力可能扩大网络攻击中有价值的目标设备范围，尤其是将其作为攻击更有价值目标的跳板。

(来源：The Verge)