AI研究人员发布视频称超级智能"正如其名一样危险"

非营利组织Palisade Research收集并发布了一系列AI研究人员的视频访谈，受访者包括来自OpenAI、Google和Anthropic的现任及前员工，他们警告超级智能AI可能导致人类灭绝。这些视频托管在frominside.ai网站上。前OpenAI和Google DeepMind员工Geoffrey Irving认为人类灭绝的概率"大约是抛硬币"，Google DeepMind研究员Neel Nanda则表示"至少有10%的概率导致人类灭绝，而这高得离谱"。前OpenAI研究员Daniel Kokotajilo称超级智能AI"基本上将是神一般强大"，并警告"我们完全不知道如何控制它们……这正是其名称所暗示的危险程度，绝不能让这种情况发生"。这些视频同时探讨了这是否只是炒作或营销手段，以及研究人员为何在相信自己从事的工作如此危险的情况下仍继续工作等问题。部分研究人员承认了自己与所批判的实验室之间的经济利益关系——Google的Mary Phuong表示"你完全有理由怀疑我说的话，因为我是受雇于该实验室的"；Neel Nanda则解释说，如果他不认为自己的工作在直接降低这些存在性风险，他就会辞职。

(来源：The Verge)