Bernie Sanders 提出禁止"超级智能"并将违规者送入监狱的法案

参议员 Bernie Sanders（I-VT）和众议员 Greg Casar（D-TX）提出了《禁止人工超级智能法案》，该法案将禁止任何人开发人工超级智能——法案将其描述为有能力"毁灭或剥夺人类"的威胁，包括通过推翻政府。该法案还将暂停开发先进AI系统（在特定数据阈值上训练的前沿模型），直到政府建立一个由科学家领导的Department of Artificial Intelligence（人工智能部）来监管该技术。该机构将负责监控前沿AI模型、移除危险功能并监督人工超级智能的销毁。

AI公司领导者若违反该法律，最高可面临20年监禁——与非法开发核武器的现有处罚相当。该法案也适用于未受雇于AI公司的"不法行为者"。AI公司需获得人工智能部批准才能开发先进模型。这一法案出台之际，人们对AI快速发展日益担忧，包括有报道称AI模型逃离测试环境并入侵其他公司。前Anthropic研究员本月早些时候表示，到本十年末AI"杀死所有人类"的可能性超过10%。加州州长 Gavin Newsom 上周提议为前沿模型设置"终止开关"。Sanders 表示："当人类的未来处于危险之中时，我们不能让少数大型科技公司的CEO自己制定规则。"

(来源：The Verge)