议员们准备起草法案,要求人工智能配备“紧急切断开关”

The Verge
议员们正在引入《AI紧急切断开关法案》,要求人工智能公司在高风险情况下构建紧急关闭机制。

内容摘要

议员 Ted Lieu 和 Nathaniel Moran 正准备推出《AI紧急切断开关法案》,该法案将授权国土安全部在发生重大安全危机时,下令人工智能公司关闭或限制其系统。触发条件包括造成至少10人死亡、超过1亿美元经济损失或模型试图隐藏关闭控制的场景。此外,开发人员将被强制要求具备技术关闭能力、报告安全事件,并因违反紧急指令而面临每天高达2000万美元的罚款。

(来源:The Verge)