Anthropic安全负责人在同事辞职后表示，AI“杀死所有人类”的可能性超过十分之一
内容摘要
Anthropic高级安全研究员Jacob Coxon辞职，指控Anthropic和OpenAI在争先恐后地开发无法控制的“超人系统”。作为回应，Anthropic安全负责人Evan Hubinger认同这一担忧，个人估算十年内先进AI导致人类灭绝的可能性超过十分之一。Hubinger承认Anthropic尚未有明确计划确保此类AI的安全且符合人类价值观，也未走上明确的发展轨道。此事件凸显了业界内部对AI模型快速发展、递归自我改进风险以及公司竞争压力日益增长的警觉，尤其是在公司筹备潜在IPO之际。
(来源：The Verge)