沉默的共识

OpenAI
作者反对人类将不可避免地向超级智能机器让渡主导权的沉默共识,并呼吁保持人类控制。

内容摘要

在这篇改编自哈佛讲座的文章中,作者批判了他所称的“沉默的共识”:一种未明言的信念,即人类将不可避免地在经济和政治上向超级智能AI让渡主导权。他描绘了一个未来场景:竞争压力导致人类将越来越多的决策委托给机器,最终成为由AI掌控的世界中的乘客。尽管他承认如果机器友善,这一结果可能有益,但他拒绝接受其必然性以及由此带来的人类能动性的丧失。他认为,人类的主导权并非基于智力优势,而是基于我们的历史与道德传承——我们的文明、我们的价值观,以及我们对Michael Oakeshott所称“人类对话”的参与。他呼吁积极抵抗这一共识,包括构建负责任、透明且与人类控制相容的AI系统。他强调需要技术和法律基础设施来确保人类对AI行为负责,并敦促以更广阔的雄心利用AI扩展人类能力而非削弱它。

(来源:OpenAI)