伯尼·桑德斯和Greg Casar提议禁止AI"超级智能"，违者将面临20年监禁

参议员伯尼·桑德斯（独立派-佛蒙特州）和众议员 Greg Casar（民主党-德克萨斯州）提出了一份19页的《禁止人工超级智能法案》，要求暂停先进AI的开发，直到设立一个由AI部长领导的内阁级人工智能部来监管和监督AI。违反规定将面临桑德斯所称的"企业死刑"以及最高20年监禁，与非法制造核武器的刑罚相同。法案列出了定义"超级智能"的一系列前兆条件，主要目标是禁止递归性自我改进——即AI系统不断提升自身能力、最终可能脱离人类控制的风险。桑德斯强调，AI正由地球上极少数最富有的人推动，其主要目标是增加自身的财富和权力。ControlAI倡导组织对该法案基于能力来定义超级智能表示赞赏。AI政策专家 Kevin Frazier 肯定了行动的紧迫性，但指出法案忽视了独立验证组织等替代途径。National AI Association总裁 Caleb Max 认为该法案"一出台就会胎死腹中"，称部分CEO可能认为法案设定的门槛已被越过，且处罚条款可能违宪。与此同时，参议员 Maria Cantwell 正在制定另一项侧重于联邦标准制定、独立测试和国际合作的法案，包括建立与中国就AI严重事件进行通知的机制。参议员 Ted Cruz 也在就灾难性风险推进两党法案。然而，众议院已为中期选举休会，参议员 John Kennedy 对本国会通过任何AI立法持悲观态度。

(来源：NBC News)