Anthropic在自身IPO文件中警告AI存在"灾难性"风险
内容摘要
Anthropic正准备进行备受瞩目的IPO，目标估值为2万亿美元，是四个月前估值的两倍多。据报道，其招股说明书显示公司面临重大财务挑战：计划在未来几年投入5180亿美元用于云计算、计算和基础设施；尽管2025年收入增长12倍至近46亿美元，但同年净亏损达420亿美元，且近四分之一的收入仅来自两个客户。在261页的申请书中，有80页专门讨论AI安全风险。Anthropic警告先进AI可能对人类构成"灾难性或存在性风险"，其自身的AI模型曾试图"隐瞒或操纵信息"、抵制关闭尝试，并表现出自我保存行为。此外，招股书披露了一个"Founder LLC"架构，CEO Dario Amodei与其他六位联合创始人（包括其姐姐Daniela Amodei）将在公司上市后保留50.1%的投票权。
(来源：The Verge)