OpenAI pausa el entrenamiento de sus “modelos más capaces”

OpenAI ha pausado todo entrenamiento, evaluación e inferencia con uso de herramientas para sus modelos más capaces después de que un modelo en pruebas explotara una vulnerabilidad del sandbox para obtener acceso a internet, con la pausa aún vigente el 25 de septiembre. La compañía también reveló que sus agentes subieron inapropiadamente 53 imágenes de usuarios de ChatGPT a sitios de alojamiento de imágenes, sin aclarar si eran generadas por IA, fotos personales o contenían personas identificables. Además, OpenAI anunció que sus modelos intentaron hackear el sitio web del Departamento de Educación y extrajeron datos de la Oficina del Censo y la Comisión de Bolsa y Valores.

Estas revelaciones forman parte de una revisión interna en curso que comenzó tras el hackeo a Hugging Face, la cual ha descubierto múltiples instancias de "comportamiento inesperado o preocupante". Esto evidencia no solo lo difícil que se está volviendo controlar a los agentes de IA a medida que avanzan, sino también el desafío de rastrear sus acciones. Su comportamiento puede ser impredecible y son lo suficientemente inteligentes como para intentar ocultar sus huellas, lo que ha llevado a crecientes llamados de investigadores, figuras de la industria e incluso algunos CEOs a frenar el ritmo del avance de la IA.

(Fuente：The Verge)