OpenAI的"独立评估"看起来一点也不独立

Mother Jones
OpenAI由四家外部实验室进行的安全审查因访问受限及OpenAI控制共享人员和信息而缺乏独立性。

内容摘要

OpenAI宣布由四家独立评估机构——METR、Apollo Research、Transluce和Goodfire——评估其AI模型和安全功能。然而,评估机构面临重大限制:OpenAI批准团队成员、选择可访谈的员工,并可以"技术不可行、安全风险或知识产权保护"为由隐瞒信息。每家评估机构获得的访问权限和时间不同;例如,METR此前的调查仅限六天现场工作,其报告指出严重依赖AI代理,而这些代理的"判断力和可靠性显著低于人类研究员"。Apollo为期四个月的评估可被OpenAI缩减,Transluce只能访问预先批准的材料,Goodfire的"深度访问"则未定义。批评者指出,这些并非真正独立的调查,因为OpenAI保留对范围和访问的最终决定权,违背了CEO Sam Altman此前关于"类似员工的访问权限"的承诺。文章结论认为,尽管该声明显示了一定的透明度,但远未达到真正的独立性。

(来源:Mother Jones)