Anthropic 负担得起安全优先吗?

The Verge
Anthropic 的 IPO 引发了其能否在安全使命与股东需求和巨额计算成本之间取得平衡的疑问。

内容摘要

Anthropic,即 Claude 背后的 AI 实验室,在纳斯达克上市,成为首家上市的纯 AI 实验室。此次 IPO 取得了巨大成功,创造了许多新的百万富翁,并使该公司成为全球最有价值的公司之一。然而,这一事件引发了关于 Anthropic 未来的关键问题。该公司拥有独特的公司治理结构,旨在使其创始人和一个特殊的长期利益信托免受股东压力,表面上是为了优先考虑 AI 安全。但作为一家上市公司,Anthropic 现在面临着巨大的压力,需要产生利润和收入增长,以资助其庞大的计算成本,预计未来几年将达到约 9000 亿美元。这在其以安全为重点的品牌形象与公开市场的利润导向需求之间造成了根本性的紧张关系。专家表示,购买足够计算资源以训练新模型和支持推理的需求将成为 Anthropic 行为的主要约束。该公司正试图通过培养客户对其模型的依赖,并将自己营销为安全、值得信赖的替代品(尤其是对企业客户)来建立业务护城河。然而,像微软这样的竞争对手正在推动使 AI 模型可互换且廉价,这可能会削弱 Anthropic 的战略。文章还将其与最近的 Nvidia 公司治理丑闻相提并论,指出与 Nvidia 传统的董事会结构不同,Anthropic 的创始人拥有几乎不受制约的控制权,这可能导致以赢得 AI 竞赛为名将安全措施合理化。真正的考验将出现在未来的收益报告中,届时可能会出现安全举措被搁置或其他妥协的迹象。

(来源:The Verge)