Control Room: un sistema central para rastrear y detener cargas de trabajo de modelos en toda nuestra infraestructura de investigación

A medida que los modelos se vuelven más potentes y los riesgos de seguridad aumentan, OpenAI creó Control Room, un sistema central que rastrea las cargas de trabajo de modelos en toda su infraestructura de investigación y las detiene rápidamente cuando surgen preocupaciones de seguridad. Conecta cada carga de trabajo de inferencia de investigación —incluido el muestreo agéntico para entrenamiento y evaluación, y el procesamiento de datos— y colabora con los sistemas de monitoreo de desalineación para detener la salida del modelo en un plazo de 35 segundos tras una decisión de intervención. El sistema integra la carga de trabajo, el motor de inferencia y un servicio centralizado Control Room: las cargas de trabajo obtienen un job_id, los motores solicitan permiso antes de atender las solicitudes de inferencia, y Control Room deniega las solicitudes de trabajos terminados. El mecanismo de terminación se implementa en la capa de inferencia en lugar del cambiante código de las cargas de trabajo, ya que las rutas de código de inferencia son pocas y centralizadas. El sistema "falla cerrado": si Control Room se cae o es manipulado, todas las solicitudes de inferencia se deniegan. Control Room ya está desplegado en la infraestructura de investigación donde la necesidad es mayor, y OpenAI planea reforzarlo y ampliarlo en los próximos meses.

(Fuente：OpenAI)