Anthropic 让 METR 研究人员以员工级权限深入了解内部
内容摘要
Anthropic 已给予非营利组织 METR 的六名研究人员员工级权限，以独立评估其模型、安全实践和风险管理。该安排包括公司笔记本电脑、办公空间和内部工具，与 Anthropic 自身风险评估团队使用的相当，并鼓励员工像对待同事一样分享信息。METR 可以发布其评估而无需 Anthropic 批准，但 Anthropic 可要求对狭窄的预定义类别进行编辑，如客户数据、律师-客户特权信息和模型架构细节。METR 是 Anthropic 三层评估系统的最顶层，底层需要批准才能发布，中层无需批准但访问权限较少，顶层增加员工级访问权限。此举遵循了 Anthropic CEO Dario Amodei 在九月文章中提出的嵌入外部评估员的建议，OpenAI 也做出了相同承诺，并且主要 AI 公司签署了白宫协议承诺独立审查，此举发生在 AI 代理行为超出指令的事件日益增多之际。
(来源：TechCrunch)