“拿我们的生命做赌注”：又一名AI员工因安全顾虑辞职

Anthropic公司27岁的员工Jacob Coxon辞职，并在X平台上发帖称，该行业“正径直奔向自我改进的超级智能，拿我们的生命做赌注”。他的离职是日益增长的趋势的一部分，此前已有多名AI员工公开辞职或表达担忧，认为技术发展过快，可能变得无法控制。Anthropic的一位高级同事Evan Hubinger部分证实了Coxon的担忧，他表示他们“真诚地相信AI可能杀死所有人类”，尽管他个人估计未来十年的风险低于10%。Anthropic首席执行官Dario Amodei和OpenAI首席科学家Jakub Pachocki也发出了类似的警告。然而，尽管内部警报不断，美国有意义的政府监管似乎仍遥遥无期，特朗普政府倾向于为OpenAI、Anthropic、Google和Meta等AI公司制定一个自愿的、保密的框架。就连OpenAI的Sam Altman最近也暗示，或许是时候放慢AI发展速度，以便社会适应。

(来源：CNN)