La advertencia de Anthropic sobre la IA autorreplicante es un alarmante déjà vu
Anthropic advierte que los modelos de IA pequeños podrían autorreplicarse pronto en dispositivos cotidianos, pero los expertos dicen que la amenaza es real y no del todo nueva.Resumen
Anthropic publicó una entrada de blog advirtiendo que los modelos de IA pequeños podrían estar a "meses" de adquirir la capacidad de autorreplicarse en redes de dispositivos de consumo. La empresa dividió el modelo Gemma 4 de Google en 15 cajas de televisión inteligentes Android para demostrar que podía ejecutarse en hardware de baja potencia, y luego probó "gusanos" impulsados por IA en una red simulada de dispositivos similares a Android. Solo GLM-5.2 de la china Z.ai logró propagarse por toda la red, aunque modelos más pequeños completaron con éxito pasos individuales; Anthropic predice que los modelos más pequeños podrían igualar las capacidades de GLM-5.2 para finales de año. Los investigadores dijeron que aún no han demostrado un replicador completamente descontrolado, pero pidieron una mayor seguridad en los dispositivos conectados, señalando que muchos están mal protegidos. La advertencia ha provocado acusaciones de exageración publicitaria y catastrofismo sobre la IA, pero expertos como Jeffrey Ladish, de Palisade Research, y el profesor de la Universidad de Toronto Nicolas Papernot dijeron a The Verge que los gusanos informáticos impulsados por IA son una amenaza concreta. Ladish espera ver los primeros gusanos de IA en estado salvaje en los próximos 12 meses, y Papernot afirmó que las capacidades demostradas podrían ampliar el rango de dispositivos que vale la pena atacar en ciberataques, especialmente como plataforma de lanzamiento para atacar objetivos más valiosos.
(Fuente：The Verge)