据报道,亚马逊首席执行官在政府采取打击行动前提出了对 Anthropic 模型的担忧

TechCrunch
据报道,亚马逊首席执行官 Andy Jassy 向官员通报了 Anthropic 模型的安全风险,促使政府对两款 AI 系统实施出口限制。

内容摘要

据报道,亚马逊首席执行官 Andy Jassy 向美国政府官员表示,亚马逊研究人员发现 Anthropic 的 Claude Fable 5 模型存在可能被用于网络攻击的安全漏洞。此沟通发生在政府对 Anthropic 的 Fable 5 和 Mythos 5 模型实施出口管制之前。尽管亚马逊拒绝讨论具体的私人咨询细节,但有报道称该公司在政府采取监管行动前就提出了这些安全担忧。总统科技顾问委员会联席主席 David Sacks 表示,政府曾要求 Anthropic 首席执行官 Dario Amodei 修复已发现的“越狱”漏洞,但 Amodei 拒绝了该要求,最终导致了相关模型的访问限制。

(来源:TechCrunch)