An OpenAI safety employee has quit and is sounding the alarm
内容摘要
David Robinson 曾在 OpenAI 负责撰写伴随每次重大模型发布的安全报告。本周他辞职，并在 The Atlantic 发表评论文章，警告该行业的文化“从根本上已经破裂”。他认为问题比简单地增加规则或监管更深层，并批评硅谷以“极度自信”和“永不停歇的冲刺”方式运作，在“毫无阻碍的乐观”中构建越来越大的模型，却忽视或低估潜在问题。Robinson 呼吁 AI 公司培养谦逊态度，走出科技行业那种封闭、快速行动并打破常规的世界。他特别指出，前沿实验室应像核电站或繁忙机场一样运作，具备多层冗余和谨慎耗时的规划，使不可避免的人为失误不会打开通往灾难的大门。他是越来越多离开知名 AI 公司并公开发声的研究人员和安全工作者中的最新一位，此前包括 Anthropic 的 Jacob Coxon，以及 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai 和 Josh Engels，还有 Anthropic 的 Joe Benton。
(来源：The Verge)