Anthropic 警告称 AI 将很快能够在没有人类干预的情况下实现自我改进
内容摘要
Anthropic 联合创始人 Jack Clark 和研究员 Marina Favaro 指出，人工智能正接近“完全递归自我改进”阶段，即系统无需人类介入即可开发下一代模型。他们警告称，这虽然能推动科学与医疗进步，但也带来了人类可能失去对 AI 控制权的巨大风险。该机构呼吁科技公司采取类似冷战时期核军控的合作方式，建立必要的“刹车机制”，以确保在 AI 系统失控时能够进行有效干预。
(来源：CNN)