OpenAI locks down Astra after model raises first-ever critical cyber capability fears
内容摘要
OpenAI 将其即将推出的 AI 模型 Astra 归类为其 Preparedness Framework 中的最高网络安全风险级别，因为内部测试显示其可能具备先进的进攻性网络能力。这一评估促使该公司加强了内部安全措施，包括在开发环境中引入更严格的保护措施，并暂停不合规的工作。在向公众广泛发布该模型以帮助加强数字防御之前，OpenAI 计划与政府机构及独立安全组织合作进行外部测试和验证。
(来源：Interesting Engineering)