AI安静的 safety gatekeepers 正步入聚光灯下

独立AI安全评估机构，主要是METR、Apollo Research和Transluce等小型非营利组织，已从被忽视的角落走向中心舞台。围绕领先实验室能否在快速发展的同时保障先进模型安全，争议日益激烈。Anthropic CEO Dario Amodei上月承诺在公司内部嵌入独立评估员，OpenAI CEO Sam Altman迅速支持，美国总统Donald Trump也表示支持。但资金、访问权限和报告结构等关键问题仍未解决。专家警告，需要可行的商业模式，而依赖AI实验室的资金可能损害真正的独立性。

OpenAI最近以违反敏感信息访问政策为由解雇了三名员工；其中两人认为解雇与他们与第三方评估员的沟通有关，OpenAI对此予以否认，并表示正在敲定与安全评估机构的合同。评估机构生态正在快速成熟并吸引新资本，但与领先实验室相比规模仍然很小。在缺乏联邦监管的情况下，评估机构承担了过重的角色，但其与资金雄厚AI公司之间的权力失衡引发了利益冲突担忧。

政策层面正在推进：Fathom提出了独立验证组织（IVO）的市场框架，FRONTIER法案包含IVO条款。加州州长Gavin Newsom签署了两项相关法案，Anthropic和OpenAI均表示支持。Trump最近推动的自愿性“道德约束”协议鼓励企业与独立审计机构合作，但批评者认为这只是作秀。核心挑战在于，嵌入评估员能否在AI实验室竞争上市和追求万亿美元估值的同时，保持真正独立并有效发挥作用。

(来源：CNBC)