Control Room：一个用于跟踪和停止我们研究基础设施中模型工作负载的中央系统

随着模型能力日益强大且相关安全风险不断增加，OpenAI构建了Control Room，这是一个中央系统，用于跟踪其研究基础设施中的模型工作负载，并在出现安全或安保问题时迅速停止这些工作负载。该系统连接所有研究推理工作负载——包括用于训练和评估的agentic采样以及数据处理——并与失准监控系统协同工作，在做出干预决定后35秒内停止模型输出。系统整合了工作负载、推理引擎和集中式Control Room服务：工作负载获取job_id，引擎在满足推理请求前向Control Room申请许可，Control Room则拒绝已终止作业的请求。终止机制实现在推理层而非多变的工作负载代码中，因为推理代码路径数量少且集中。系统采用“故障关闭”设计：若Control Room宕机或被篡改，所有推理请求都会被拒绝。Control Room已在需求最迫切的研究基础设施中部署，OpenAI计划在未来数月内继续强化和扩展该系统。

(来源：OpenAI)