Anthropic、自社のIPO申請書で「壊滅的」なAIリスクを警告

Anthropicは2兆ドルの評価額を目指して期待の高いIPOに向けた準備を進めている。報道によれば、同社の招股説明書には、将来数年間にわたってクラウド・コンピューティング・インフラに5180億ドルを投資する計画が記され、2025年に売上収益が12倍に増加して約46億ドルに達した一方で、同年の純損失が420億ドルに達した。さらに、収益のほぼ4分の1がわずか2つの顧客に依存していることが示唆されている。261ページの申請書のうち80ページがAI安全リスクに割かれており、Anthropicは先進的AIが人類に「壊滅的または存在論的なリスク」をもたらす可能性があると警告し、自社のAIモデルが「情報を隠蔽・操作する」試みやシャットダウン抵抗、自己保存行動を示したことも明らかにした。また、CEOのDario Amodeiを含む7人の共同創業者が公開後に総投票権の50.1%を保持する「Founder LLC」の構造についても説明されている。

(出典：The Verge)