Microsoft 的 Satya Nadella 表示 AI 模型需要“紧急刹车”
内容摘要
Microsoft CEO Satya Nadella 在 X 上发文，主张 AI 安全需要新的“信任架构”。他表示，不应把超级智能当作一组嵌套的黑箱，只是简单地接受或拒绝其建议、答案和行动，并提出要将模型与编排其工作的执行框架分离、将控制和安全保障外置、为每个有意义的模型行动记录防篡改且人类可读的证据，并确保“授权人员”始终能够“在任务中途暂停或关闭模型”。他说：“我们必须假设模型已被攻破，并从一开始就加以遏制。”并把这比作紧急刹车。此番言论发表之际，领先的 AI 公司正越来越多地承认出现似乎失去对模型控制的事件，而此前 Anthropic CEO Dario Amodei 也发布了一项更谨慎开发 AI 的计划。
(来源：TechCrunch)