关于独立评估者的最新进展
内容摘要
Anthropic 介绍了其在独立第三方评估 AI 模型和安全实践方面的最新承诺。公司已开始向非营利机构 METR 的团队提供类似员工的访问权限，包括公司硬件、办公场所和内部工具，METR 将公布其风险评估结果。Anthropic 要求评估者具备前沿模型能力评估专长、保持独立性（不持股、不产生财务依赖）、拥有足够的训练和安全措施访问权限，并能自由发布观察结果。公司解释称，由于部分信息可能被恶意行为者利用或涉及商业敏感信息，无法公开分享全部安全相关信息，因此改为让第三方深度访问以缩小理解差距。Anthropic 还在与 SecureBio 和 Accenture 合作，并与包括 Hugging Face 在内的多家机构进行早期洽谈，同时正在建立三个层级的评估者访问权限，信息访问权和发布权逐级提升。与 METR 的安排不能被 Anthropic 否决，但客户数据、律师-客户特权信息和模型架构等狭窄类别可以删改，METR 可公开说明删改情况。Anthropic 将此视为迈向稳健安全监督的一步，并鼓励每家前沿 AI 公司自愿引入评估者。
(来源：Anthropic)