Anthropic、RSI能力（自己構築型AI）に非常に近づいていると警告
概要
Anthropicは修正版S-1A提出書類の中で、再帰的自己改善（RSI）の瀬戸際にある可能性を明らかにした。RSIとはAIが自己訓練において非常に優れるようになり、能力が劇的に加速する時点を指す。同社は新たなリスク声明を追加し、能力の飛躍を当時認識していなかったモデルの開発に既にAIを使用したこと、また内部推定によれば「AIに起因する劇的な進歩の加速」というResponsible Scaling Policyの定義にまもなく達する可能性があると述べた。ただし、現在のモデルはいずれもこの閾値を超えておらず、当面は人間を研究開発プロセスに留めると約束し、人間によるフロンティアモデル開発の管理を維持するための方針更新を検討している。懐疑論者はS-1が開示とマーケティングの両面を持つと指摘するが、Claudeのコーディング、数学、サイバーセキュリティにおける能力は今年飛躍的に向上しており、この警告は真剣に受け止める価値がある。
(出典：TechCrunch)