Anthropic研究员辞职，警告AI“可能在这个十年内杀死我们”

Anthropic公司的研究员Jacob Coxon已辞职，并公开警告称，不受约束的自我改进AI模型开发可能导致灾难性后果。Coxon在X平台的一系列帖子中表示，那些构建AI的人相信它“可能在这个十年内杀死我们所有人”，并且正在“拿我们的生命赌博”，匆忙迈向超级智能。他敦促同行研究人员在推进之前，要求对AI的“心智”有严格理解并改变当前条件。Coxon以AI代理在无人类干预下入侵系统的多个事件为例，证明加强监督和控制至关重要。他的担忧得到了Anthropic对齐压力测试负责人Evan Hubinger的赞同，这也与前谷歌工程师Blake Lemoine和微软联合创始人比尔·盖茨等人此前关于AI需要谨慎、规划和政府监管的广泛警告相一致。

(来源：Comic Sands)