Combatir la destilación adversaria

OpenAI
OpenAI explica cómo detecta y interrumpe la destilación adversaria, refuerza las protecciones del razonamiento de los modelos y comparte lecciones para las defensas del sector.

Resumen

OpenAI describe la destilación adversaria, en la que actores maliciosos utilizan sin autorización las salidas de un modelo frontera para entrenar otro modelo con capacidades similares pero sin salvaguardas comparables, lo que plantea riesgos especialmente en ámbitos de doble uso como la ciberseguridad y la biología. La empresa detalla su estrategia de defensa, que combina pruebas adversarias, entrenamiento de modelos, clasificadores y protecciones a nivel de API con investigaciones sobre campañas coordinadas de extracción. Un enfoque clave es proteger la cadena de razonamiento del modelo, ya que los rastros de razonamiento exactos pueden transferir más capacidad que los resúmenes. En evaluaciones internas, las salvaguardas actualizadas de GPT-6.2 Astra redujeron la tasa media de éxito de los ataques para extraer razonamiento protegido del 54,0% contra GPT-6 Astra al 0,2%. OpenAI también toma medidas contra redes de cuentas que llevan a cabo campañas de destilación, comparte indicadores de compromiso con otros proveedores y apoya legislación y controles de exportación para abordar riesgos de seguridad nacional. El artículo concluye con recomendaciones para que otros desarrolladores y plataformas refuercen las defensas contra la destilación en todo el sector.

(Fuente:OpenAI)