加文·纽瑟姆推动为人工智能设置“紧急关闭开关”
内容摘要
加州州长加文·纽瑟姆发布了一项行政令，旨在让该州在人工智能监管方面走在前列。该命令要求一个专家小组在两个月内就如何加强州法律中的人工智能安全措施提出建议。主要提案包括要求人工智能公司嵌入独立验证方进行现场审计，使透明度报告和风险评估符合独立审计师标准，并为前沿模型创建一个经过验证的“紧急关闭开关”。它还要求将“失控事件”作为关键安全事件进行报告。纽瑟姆将此定位为联邦行动的典范，批评联邦政府缺乏监督，并敦促国会和特朗普总统采纳加州的框架。此举发生在研究人员发出警告引发人工智能风险担忧加剧之际，与华盛顿当前的政治不作为形成对比。
(来源：The Verge)