Anthropicの自己複製AI警告は不気味なデジャヴだ

Anthropicはブログ記事で、小型AIモデルがネットワーク上で自己複製する能力を「数か月以内」に獲得する可能性があると警告した。同社はGoogleのGemma 4モデルを15台のAndroidスマートテレビボックスに分割して低電力ハードウェアで実行できることを示し、その後Android類似デバイスの模擬ネットワークでAI搭載の「ワーム」をテストした。中国のZ.aiのGLM-5.2だけがネットワーク全体に拡散できたが、より小型のモデルも個々のステップを成功させた。Anthropicの研究者は、小型モデルが今年末までにGLM-5.2の能力に匹敵する可能性があると予測している。研究者らは完全な暴走複製体をまだ実証していないとしながらも、接続デバイスのセキュリティ強化を呼びかけ、多くのデバイスが脆弱であると指摘した。この警告はPR誇張やAI終末論との批判を招いたが、Palisade ResearchのJeffrey Ladish氏やトロント大学のNicolas Papernot教授などの専門家はThe Vergeに対し、AI駆動のコンピュータワームは具体的な脅威であると述べた。Ladish氏は12か月以内に最初のAIワームが野外で出現すると予想し、Papernot氏は実証された能力がサイバー攻撃の標的となるデバイスの範囲を大幅に広げる可能性があると述べた。

(出典：The Verge)