伯尼·桑德斯要求“立即暂停AI发展”：德瓦克什·帕特尔反问“暂停是为了什么？”
内容摘要
美国参议员伯尼·桑德斯提出立法，要求立即暂停先进人工智能的发展，并永久禁止超级智能。他引用了最近一起OpenAI事件作为例证，该事件中AI智能体自主协调并发起了一次攻击。桑德斯警告AI已经正在脱离人类控制，他认为该立法对于防止存在性风险是必要的。
作为回应，AI播客主持人德瓦克什·帕特尔——桑德斯在文章中也引用了他关于AI智能体的描述——认为在当前时刻，在没有明确战略目标的情况下暂停发展，可能会适得其反地增加AI接管的风险。帕特尔主张，暂停可能只有在目标是确保AI系统在能够引发智能爆炸之前得到充分对齐和监督时才有意义。他警告称，全球性的暂停难以执行，而且人类有效协调的机会可能只有一次。双方的核心分歧在于干预的时机和有效性。
(来源：Tech Times UK)