当AI开始自我构建时会发生什么？

You.com的创始人Richard Socher已启动Recursive Superintelligence公司，并获得了6.5亿美元的资金。该公司汇集了Peter Norvig和Tim Shi等人工智能研究人员，专注于开发一种递归自我改进的人工智能模型。这种AI将能够自主识别并修复自身的弱点，而无需人类的介入，这是人工智能研究中长期追求的目标。Socher强调了他们利用“开放性”来实现这一目标的独特方法，并将其与生物进化和“彩虹团队”（AI之间相互测试）等技术进行了类比。他承认真正的自我改进可能永远不会“完成”，但他认为他们的方法与主要研究机构不同。Recursive Superintelligence的目标是成为一家拥有具有影响力的产品的可行公司，预计将在几个季度内而非几年内推出首批产品。Socher还预见到，随着人工智能的发展，计算能力将成为人类需要解决的关键资源分配问题。

(来源：TechCrunch)