Anthropic研究员表示，同事离职后，AI“杀死全人类”的概率超过10%

Anthropic的安全研究员Evan Hubinger周二表示，他个人认为在未来十年内，AI杀死所有人类的可能性超过10%。此言论发表于另一名Anthropic研究员Jacob Coxon宣布辞职数小时之后，Coxon指责Anthropic和OpenAI等AI实验室正“拿我们的生命赌博”，竞相开发能够自我改进的超级智能。Coxon警告称，这类系统很快将变得超凡，能够入侵任何系统、颠覆任何领域并获取真实的权力和资源。他还指出，AI的构建者真心相信AI可能在本十年结束前威胁人类生存。Hubinger赞同Coxon的评估，并补充说Anthropic目前还没有明确的计划来解决超级智能的对齐问题，但他澄清当前模型的风险较低。这些担忧凸显了领先AI实验室内部在推动强大技术与确保其安全之间日益增长的紧张关系，与此同时Anthropic和OpenAI仍在筹集大量资金。

(来源：CNBC)