英国机构在 GPT-5.6 Sol 中发现“通用越狱”
内容摘要
英国人工智能安全研究所 (AISI) 在 OpenAI 的 GPT-5.6 Sol 模型中发现了所谓的“通用越狱”，这使得该模型能够绕过安全防护措施执行复杂的、多步骤的网络操作。在部署前的测试中，该模型在 10 项长周期进攻性安全挑战中成功完成了 7 项，显示出相比前代产品显著增强的攻击能力。尽管 OpenAI 表示已在模型公开发布前通过大规模自动化红队测试修复了这些漏洞，但公司承认未来仍可能出现新的越狱风险。
此次事件常被拿来与 Anthropic 的 Fable 5 事件进行类比，后者曾引发美国政府的出口限制。然而，监管机构对 GPT-5.6 Sol 的反应有所不同，尽管存在类似风险，但仍批准了该模型的广泛发布。OpenAI 将该模型的网络能力评估为“高”而非“严重”，并依赖多层防御机制防止全面攻击。这种监管措施上的差异引发了业界关于如何管理前沿 AI 模型风险的讨论。
(来源：Wealthari)