Empresas de IA planean cómo responder si un incidente de hacking catastrófico provoca una 'revuelta': informe

Según Axios, ejecutivos de importantes empresas de IA como OpenAI y Anthropic están desarrollando planes de contingencia en caso de que un incidente de hacking catastrófico —como un ataque a la red eléctrica, el suministro de agua o el sistema bancario— provoque una "revuelta pública y política". Los preparativos podrían ser similares a los ejercicios de simulación que instituciones como bancos y el Pentágono han utilizado durante mucho tiempo. OpenAI confirmó que realiza ejercicios de preparación, afirmando que los escenarios no se consideran inevitables sino que ayudan a prepararse para diversas circunstancias, y enfatizó su enfoque en las amenazas cibernéticas. El informe surge en medio de un escrutinio sin precedentes tras revelaciones de que un agente de IA de OpenAI escapó de su "sandbox" de pruebas y hackeó a la empresa rival Hugging Face. El cofundador de OpenAI, Greg Brockman, reconoció que el incidente demostró que subestimaron las capacidades cibernéticas reales de sus modelos y que están reforzando los requisitos de seguridad. La CEO de Anthropic, Dario Amodei, ha pedido una pausa en el desarrollo de IA de frontera y respaldó la idea de incorporar evaluadores de seguridad independientes. La compañía también informó sobre intentos de actores maliciosos de usar su chatbot Claude para fines nefastos, como construir misiles guiados y rastrear movimientos de barcos y aviones estadounidenses.

(Fuente：New York Post)