为何一份关于Anthropic自动化AI发展的新报告令研究人员感到不安
内容摘要
AI安全研究组织METR基于在Anthropic内部为期11周的调查发布了一份新报告，发现该公司的AI模型改进速度约为一年前的两倍，且几乎没有放缓迹象。METR得出结论，大部分加速归因于AI本身，而非计算能力的提升，使用内部模型的Anthropic员工自报生产力提高了约12倍。报告还显示，Anthropic已完成三个未发布模型的训练，并且对METR报告的公开版本进行了大量删节，理由是商业敏感性以及帮助竞争对手的风险。Anthropic联合创始人Sam McCandlish为这些删节辩护，称这是"正确的决定"。这些发现引发了AI安全研究人员的强烈反弹，他们认为Anthropic公开呼吁谨慎与其加速AI发展的角色之间存在矛盾，并警告递归自我改进可能比预期更近。包括METR和外部研究人员在内的批评者呼吁对前沿AI实验室加强透明度和独立监督，一些政策制定者则敦促国会禁止递归自我改进。
(来源：The Verge)