Satya Nadella 表示我们应假设所有 AI 模型都已被“攻陷”
内容摘要
在一篇发布于 X 的长文中，微软 CEO Satya Nadella 阐述了他对高度先进 AI 模型所带来危险的看法以及应对之策。他认为，我们不能再接受把 AI 当作一组嵌套的“黑箱”、对其建议和行动只能接受或拒绝的做法，并呼吁建立一个更透明的系统，使模型可以被遏制、被观察，并留下“防篡改、人类可读的证据”。
他的许多建议与业界共识一致：及时披露事件、独立审计、可验证数据和遏制。在遏制方面，他走得更远，表示我们必须假设一个模型已被攻陷，并从一开始就对其加以遏制——他将其比作“紧急刹车”，并称授权人员应始终能够在任务进行中暂停或关闭模型。他还补充说，更先进的模型将需要更先进的遏制技术，而且这些技术必须实现标准化。
值得注意的是，Nadella 在整篇文章中都将 AI 称为“超级智能”。
(来源：The Verge)