Our position on open-weights models
内容摘要
在一篇回应近期讨论的文章中,Anthropic 首席执行官 Dario Amodei 澄清说,该公司从未主张禁止开源权重模型,并认为安全的开源权重模型是一种公共产品。Amodei 概述了他最关心的国家安全问题:威权政权开发出用于军事优势或压迫的更强大 AI,以及强大 AI 可能被滥用于网络或生物攻击。为了应对这些威胁,他主张限制向中国出售芯片、打击工业规模的模型蒸馏,并对所有具备足够能力的模型(无论开源还是闭源)强制进行严格的发布前安全测试。
(来源:Anthropic)