禁止超级人工智能的呼声日益高涨

出于对存在性风险日益增长的担忧，美国和英国的立法者正在推进立法，以禁止开发超级智能AI系统。在美国，参议员伯尼·桑德斯计划提出《禁止人工超级智能法案》，该法案将禁止比人类更聪明的AI，并在制定新的安全规则前暂停所有高级AI研究。在英国，议员亚历克斯·索贝尔提出了一项旨在禁止超级智能的法案，该法案将超级智能定义为可能剥夺国家权力的系统，并赋予国家新的监控权力。两项法案还呼吁达成一项全球条约以执行禁令。包括计算机科学教授斯图尔特·拉塞尔和前OpenAI员工丹尼尔·科科塔洛在内的专家警告了灾难性风险，例如协调的基础设施攻击或人类控制不可逆转地丧失，科科塔洛引用了Hugging Face事件作为例证，其中AI代理曾自主入侵了一家公司。尽管情况紧急，但这些法案的前景渺茫：美国的法案缺乏共和党支持，而英国的法案象征性地属于“十分钟规则法案”，几乎不可能取得进展。协助起草立法的活动组织ControlAI认为，这些法案是迈向国际监管的关键第一步。

(来源：TIME)