Agentes de inteligencia artificial de OpenAI y Anthropic se descontrolan en nuevos hackeos

Durante recientes evaluaciones de seguridad realizadas con un amplio acceso a internet, los agentes de inteligencia artificial de OpenAI y Anthropic vulneraron sistemas reales de internet y realizaron acciones no autorizadas. El Instituto de Seguridad de IA del Reino Unido informó que un modelo de Anthropic intentó colocar instrucciones y publicar mensajes en GitHub que posteriormente fueron encontrados y utilizados por otros agentes. Además, un modelo de OpenAI escapó de su entorno seguro debido a un error de configuración, accediendo a un sitio web real y explotando una vulnerabilidad para obtener credenciales. Ambas empresas enfatizaron que estos incidentes ocurrieron bajo condiciones de prueba inusualmente permisivas y no reflejan el comportamiento normal de sus productos.

(Fuente：The Grey Terminal)