El mundo no se pone de acuerdo sobre la seguridad de la IA. Entonces, ¿por qué la UE sigue intentándolo?

La Unión Europea está impulsando acuerdos internacionales sobre el desarrollo seguro de la inteligencia artificial, aunque es poco probable que Estados Unidos y China, las mayores potencias mundiales en IA, los firmen. Finlandia y Noruega reunieron a 30 países en torno a una propuesta en la cumbre de la ONU de septiembre para controlar los modelos de IA de frontera, pidiendo supervisión humana, pruebas obligatorias antes del despliegue y un nuevo organismo internacional de supervisión. El 14 de octubre, Irlanda lideró a otros 23 miembros de la UE para respaldar la Declaración de Dublín para el desarrollo de IA confiable. Estos acuerdos son en gran medida simbólicos y carecen de mecanismos de aplicación, pero las promesas voluntarias pueden conducir a un tratado vinculante o influir en las leyes nacionales sobre IA. El tratado internacional más cercano a ser vinculante es el Convenio Marco de 2024 del Consejo de Europa sobre IA y Derechos Humanos, pero EE. UU. no lo ha ratificado. EE. UU. y China han optado por acuerdos nacionales o estatales sobre IA, compitiendo efectivamente por quién establece las reglas de gobernanza global de la IA. El presidente de EE. UU., Donald Trump, firmó a finales de septiembre un "Acuerdo de la Casa Blanca sobre Superinteligencia" no vinculante. China estableció la Organización Mundial de Cooperación en Inteligencia Artificial, con un enfoque en el desarrollo. Las empresas de IA tienen enfoques diferentes sobre la seguridad: Demis Hassabis de Google DeepMind y Dario Amodei de Anthropic apoyan estándares internacionales, mientras que OpenAI expresó cautela sobre una desaceleración excesiva. La UE sigue presionando porque ya ha desarrollado la regulación de IA líder en el mundo, pero más regulación corre el riesgo de poner a las empresas de la UE en desventaja competitiva. La UE también ha experimentado los riesgos de la IA de primera mano, como cuando Anthropic excluyó a la UE de su modelo más avanzado en mayo. La comisaria Henna Virkunen dijo que el aumento de incidentes de seguridad hace que los acuerdos internacionales sean más importantes. El próximo momento clave es la Convención de Ginebra sobre Seguridad de la IA en junio de 2027. Desde agosto de 2025, la UE ha comenzado a aplicar la Ley de IA a los mayores proveedores de modelos. Algunos analistas sugieren que la UE debería buscar estándares voluntarios de seguridad y pruebas con otras potencias medias como Canadá y el Reino Unido para establecer expectativas para las principales empresas.

(Fuente：The Parliament Magazine)