OpenAI locks down Astra after model raises first-ever critical cyber capability fears
Interesting Engineering
OpenAI ha clasificado su próximo modelo Astra en su categoría de mayor riesgo de ciberseguridad tras detectar posibles capacidades cibernéticas ofensivas avanzadas.Resumen
OpenAI ha clasificado su próximo modelo de inteligencia artificial, Astra, en su categoría de mayor riesgo de ciberseguridad tras las pruebas internas que sugieren que podría poseer capacidades cibernéticas ofensivas avanzadas, alcanzando posiblemente el umbral "crítico" de su marco de preparación. Esta evaluación ha llevado a la compañía a endurecer la seguridad interna, introducir protecciones más estrictas en el entorno de desarrollo y colaborar con agencias gubernamentales y grupos de seguridad independientes para validar las capacidades del modelo antes de su lanzamiento.
(Fuente：Interesting Engineering)