Anthropic警告其已非常接近RSI能力，即自我构建型AI
内容摘要
在其修订后的S-1A文件中，Anthropic披露其可能正处于递归自我改进（RSI）的边缘，即AI变得如此擅长自我训练，以至于能力急剧加速。该公司新增风险声明称，其已使用AI开发出能力跃升的模型，而当时并未意识到这些跃升，且内部估计表明其可能即将达到负责任扩展政策中"可归因于AI的急剧加速进展"的定义。不过，Anthropic表示目前尚无任何模型跨过该门槛，并承诺在可预见的未来让人类留在研发流程中，同时考虑更新其政策以保持人类对前沿模型开发的控制。尽管怀疑者指出S-1文件兼具披露与营销功能，但Claude今年在编程、数学和网络安全方面的能力飞速提升，表明这一警告值得认真对待。
(来源：TechCrunch)