AnthropicによるAI開発の自動化に関する新報告書が研究者を不安にさせる理由

AI安全研究組織METRがAnthropic社内での11週間にわたる調査に基づいて公表した新報告書によると、同社のAIモデルは1年前の約2倍の速さで改善しており、減速の兆しはほとんど見られない。METRは、この加速の大部分は計算能力の拡大ではなくAI自体によるものだと結論づけ、内部モデルを使用したAnthropicの従業員は生産性が約12倍向上したと自己申告した。報告書はまた、Anthropicが未公開の3つのモデルの訓練を完了していることを明らかにし、商業的機密性と競合他社を利するリスクを理由に、METR報告書の公開版を大幅に黒塗りした。Anthropic共同創業者のSam McCandlishは、この黒塗りを"正しい判断"だと擁護した。この調査結果はAI安全研究者の間で反発を招いており、Anthropicの公的な慎重論とAI開発加速における役割の矛盾を指摘し、再帰的自己改善が予想より近い可能性があると警告している。METRや外部研究者を含む批判者は、フロンティアAIラボに対する透明性と独立した監督の強化を求めており、一部の政策立案者は議会に再帰的自己改善の禁止を促している。

(出典：The Verge)