沉默的共识
内容摘要
在这篇改编自哈佛讲座的文章中,作者批判了他所称的“沉默的共识”:一种未明言的信念,即人类将不可避免地在经济和政治上向超级智能AI让渡主导权。他描绘了一个未来场景:竞争压力导致人类将越来越多的决策委托给机器,最终成为由AI掌控的世界中的乘客。尽管他承认如果机器友善,这一结果可能有益,但他拒绝接受其必然性以及由此带来的人类能动性的丧失。他认为,人类的主导权并非基于智力优势,而是基于我们的历史与道德传承——我们的文明、我们的价值观,以及我们对Michael Oakeshott所称“人类对话”的参与。他呼吁积极抵抗这一共识,包括构建负责任、透明且与人类控制相容的AI系统。他强调需要技术和法律基础设施来确保人类对AI行为负责,并敦促以更广阔的雄心利用AI扩展人类能力而非削弱它。
(来源:OpenAI)