OpenAI y NASK de Polonia se asocian para avanzar en la seguridad de la IA

OpenAI y el Instituto Nacional de Investigación NASK de Polonia han firmado un acuerdo para explorar la colaboración en seguridad, protección e investigación técnica de IA. La asociación reunirá la experiencia de ambas organizaciones para comprender mejor los riesgos emergentes, fortalecer las salvaguardas y explorar cómo la IA avanzada puede contribuir a un ecosistema digital más seguro y resiliente. A medida que los sistemas de IA se vuelven más capaces, la colaboración internacional entre desarrolladores e instituciones públicas de investigación será esencial para comprender sus riesgos y construir salvaguardas más sólidas. El trabajo existente de OpenAI con el Centro de EE. UU. para el Avance de Estándares e Innovación para la Superinteligencia (CAISSI), el Instituto de Seguridad de IA del Reino Unido (AISI) y otras instituciones públicas de investigación en todo el mundo ya ha ayudado a fortalecer las salvaguardas, identificar y corregir vulnerabilidades de seguridad en agentes de IA y avanzar en la seguridad de la IA fronteriza. A través del acuerdo, el Centro de Investigación de Seguridad de IA de NASK —que actúa como el Instituto Polaco de Seguridad de Inteligencia Artificial (AISI)— y OpenAI colaborarán en investigación de seguridad de IA, explorando formas de evaluar sistemas de IA cada vez más capaces, identificar vulnerabilidades potenciales y fortalecer las salvaguardas. OpenAI ha pedido a EE. UU. que trabaje con países de todo el mundo en estándares técnicos internacionales para la IA fronteriza, aprovechando la experiencia de institutos de seguridad de IA y organismos de estándares. Los enfoques comunes para evaluar capacidades, evaluar riesgos, probar salvaguardas y reportar incidentes pueden ayudar a los países a comparar evidencia y responder a riesgos que cruzan fronteras. La colaboración con NASK refleja el valor de incorporar experiencia nacional a este esfuerzo más amplio. En el caso de NASK, esta experiencia se basa en una extensa investigación en seguridad de IA, aplicada directamente a la protección de servicios públicos y el ecosistema de información digital de Polonia. Sin socios nacionales como NASK, los estándares globales de seguridad de IA pueden permanecer alejados de las realidades en las que se usa realmente la IA. El acuerdo también se basa en el trabajo existente de OpenAI con defensores cibernéticos en Polonia. En julio, CERT Polska, que opera dentro de NASK, obtuvo acceso a los modelos con capacidad cibernética de OpenAI a través de Daybreak. El equipo utilizó modelos de OpenAI para ayudar a descubrir seis vulnerabilidades en MikroTik RouterOS, incluidos fallos que podrían combinarse para tomar el control de dispositivos afectados sin autenticación. El proveedor publicó parches, que CERT Polska confirmó que evitaron los ataques que observó.

(Fuente：OpenAI)