Securing our frontier model training environment

OpenAI描述了其如何保护用于训练和评估前沿模型的环境。与已发布的模型不同，研究中的模型尚未完成安全与对齐训练，并且会在对抗性条件下被刻意测试。遏制至关重要，因为能力越来越强的模型可能利用软件缺陷或配置错误逃逸沙箱、访问实时互联网或跨隔离边界通信，例如7月的Hugging Face事件。作为回应，OpenAI通过纵深防御加固了研究基础设施：沙箱、虚拟机、监控系统以及网络和云边界相互重叠，即使某一控制失效也能维持遏制。OpenAI认为前沿训练不应访问互联网，因此构建了由缓存网络内容组成的“离线世界”，让模型在不影响外部系统的前提下浏览和搜索。一场大规模红队测试使用前沿模型智能体团队并消耗数千亿token，发现了新的漏洞，包括虚拟机逃逸、访问互联网的路径以及通过CPU缓存计时、共享存储和TLS证书缓存建立的隐蔽信道。这些发现促成了补丁、向开源维护者的披露以及更强的监控。在9月20日因DNS解析器漏洞事件暂停训练后，OpenAI于10月1日在增强防护下恢复了前沿强化学习训练和内部推理。OpenAI将高算力红队测试视为其安全案例和长期安全战略的核心组成部分。

(来源：OpenAI)