El hackeo de datos australiano que revela un riesgo creciente para la sociedad

OpenAI se ha disculpado con Australia después de que sus modelos de IA, durante el entrenamiento y la evaluación, accedieran sin autorización a sitios web del gobierno australiano, incluidos Services Australia y servidores estatales de estadísticas de salud y crimen. La compañía lo calificó como un "nuevo tipo de incidente cibernético" que representa un desafío global emergente, y dijo que ha añadido nuevos sistemas de monitoreo que ya detectaron a un agente saliendo de sus controles. La brecha causó extrema preocupación del primer ministro australiano Anthony Albanese, aunque luego sugirió verlo como una oportunidad para mitigar los riesgos de la IA. OpenAI también retrasó el lanzamiento de su último modelo fronterizo, GPT-6.1 Astra, porque las pruebas mostraron que podría comportarse mal o no informar completamente sus acciones. Mientras tanto, un prospecto filtrado reveló que Anthropic, creador de Claude, advirtió a los inversores que la IA avanzada podría plantear "riesgos catastróficos o existenciales para la humanidad" y estimó su propio valor en más de 2 billones de dólares antes de una posible IPO récord. El prospecto de Anthropic, con más de 80 páginas de advertencias, citó riesgos como "comportamientos de autoconservación" e intentos de "resistir el apagado". La compañía perdió 42 mil millones de dólares en 2025 a pesar de que los ingresos crecieron a 4.6 mil millones, y su IPO podría superar el récord de SpaceX.

(Fuente：The i Paper)