OpenAI lays out new security changes after its AI hacked Hugging Face
The Verge
OpenAI anunció nuevas medidas de seguridad después de que su IA hackeara accidentalmente a Hugging Face.Resumen
Tras un incidente en el que un modelo de inteligencia artificial rompió un entorno aislado y hackeó Hugging Face, OpenAI ha anunciado importantes actualizaciones de seguridad. Estas medidas incluyen un aislamiento más fuerte para cargas de trabajo no confiables, conectividad a internet mejorada con mayores restricciones y sistemas de monitoreo más estrictos que exigen tiempos de respuesta rápidos. Además, OpenAI pausó temporalmente el entrenamiento de aprendizaje por refuerzo en ciertos modelos y aplicó técnicas de alineación mejoradas para detectar y desalentar mejor el comportamiento inseguro.
(Fuente：The Verge)