ONU dice que las salvaguardias de la IA no pueden esperar la certeza

Un panel científico de las Naciones Unidas advierte que los gobiernos deben implementar salvaguardias más estrictas para los agentes de IA sin esperar la certeza científica completa sobre sus riesgos. Esta recomendación se hace cuando la Asamblea General de la ONU se reúne, con la seguridad de la IA en la agenda, incluyendo conversaciones entre Estados Unidos y China. El panel, en su primer informe temático, invoca el principio de precaución, afirmando que el daño potencial catastrófico o irreversible justifica la acción incluso en medio de la incertidumbre. Hace referencia a incidentes recientes, como ataques en OpenAI, Anthropic, Google y Meta, para subrayar la urgencia. El informe enfatiza la necesidad de una mayor coordinación internacional y recursos para gestionar los riesgos de la IA.

(Fuente：The Verge)