打击对抗性蒸馏
内容摘要
OpenAI介绍了对抗性蒸馏的概念,即不良行为者未经授权使用前沿模型的输出训练另一个具有类似能力但缺乏相应安全保障的模型,这在网络安全和生物学等两用领域尤其危险。公司详细说明了其防御策略,结合对抗性测试、模型训练、分类器和API级保护,并对协同提取活动进行调查。一个关键重点是保护模型的思维链推理,因为精确的推理轨迹比摘要能传递更多能力。在内部评估中,GPT-6.2 Astra的更新防护措施将提取受保护推理的平均攻击成功率从针对GPT-6 Astra的54.0%降至0.2%。OpenAI还对进行蒸馏活动的账户网络采取执法行动,与其他提供商分享入侵指标,并支持立法和出口管制以应对国家安全风险。文章最后为其他开发者和平台提出了加强全行业蒸馏防御的建议。
(来源:OpenAI)