Anthropic 提出AI安全法案，若可能导致50人以上死亡可阻止模型发布
内容摘要
Anthropic 向国会提出了一项AI安全法案草案，旨在允许政府阻止被认为构成“可预见、迫在眉睫风险”的AI模型发布。这些风险包括可能导致50人以上死亡或超过10亿美元财产损失，源自生物武器制造、模型逃避开发者控制或网络攻击等场景。法案建议由与美国商务部注册的独立评估员进行风险评估，评估员可由AI实验室支付费用，但支付不得以评估结果为条件。若发现灾难性风险，评估员须在72小时内通知商务部，商务部可请求华盛顿特区法官阻止模型发布。法案明确禁止任何联邦机构自行决定停止模型分发。该提案与加州参议院第53号法案类似，体现了Anthropic自6月以来倡导的先进AI框架。此举比英伟达等公司反对新立法的立场更为积极，也不同于行业对强制监管的抵制。法案中概述的风险与近期关注的智能黑客攻击等问题有所不同，突显了AI安全监管的持续辩论。
(来源：TechCrunch)