管理前沿AI风险:从训练到部署

OpenAI
OpenAI阐述其纵深防御策略,说明如何在研究、内部部署和外部部署三个阶段管理前沿AI风险。

内容摘要

OpenAI概述了管理前沿AI风险的纵深防御策略,贯穿研究、内部部署和外部部署三个阶段。研究阶段,模型在无实时互联网连接的沙箱环境中训练,并辅以持续的红队测试和监控;一次DNS配置错误事件导致9月20日至10月1日暂停训练。进入内部部署前,模型必须通过对齐与可监控性评估,且每次前沿推理均受监控,系统级分类器和Auto-Review提供额外防护。外部部署则增加更广泛的评估套件、自适应测试、第三方评估、离线执法和可信访问计划。OpenAI承诺在安全证据不足时暂停训练或暂缓发布,并通过报告和系统卡披露失准事件。

(来源:OpenAI)