亚马逊安全研究据称导致白宫禁止Anthropic的Fable
内容摘要
据《华尔街日报》报道，亚马逊的安全研究，据称能够通过一系列提示词让Anthropic的Fable 5模型泄露可用于网络攻击的信息，这在一定程度上促使了导致Anthropic切断对Fable 5和Mythos 5访问的出口管制指令。亚马逊CEO Andy Jassy与白宫的对话也促成了这一决定。该报告称，亚马逊的研究表明，通过一系列提示词，它能够让Fable 5提供可用于网络攻击的信息。亚马逊尚未对置评请求作出回应。在Jassy与政府分享了公司的发现后不久，政府就决定禁止外国国民使用。使这一问题复杂化的是，Anthropic的许多研究人员都是外国出生的，这意味着他们被禁止访问自己的产品。Anthropic在一份声明中驳斥了政府将此问题定性为“越狱”的说法，并认为使用其他公开可用的模型，包括GPT 5.5，也可以发现许多相同的漏洞。一些安全研究人员似乎支持该公司的解释。LutaSecurity的创始人兼首席执行官Katie Moussouris在BlueSky上发帖称：“我看到了这份报告。这不是越狱。”前商务部官员Kate Koren向《华尔街日报》推测，白宫对Anthropic的不满可能影响了这一决定。Anthropic与特朗普政府在公司拒绝允许其人工智能用于大规模监控美国人或驱动致命自主武器的问题上长期存在分歧。今年2月，特朗普指示联邦机构停止使用Anthropic的人工智能。几小时后，国防部长Pete Hegseth将该公司指定为供应链风险。
(来源：The Verge)