解雇Sam Altman的OpenAI董事会成员表示我们仍然不能信任AI首席执行官们
内容摘要
在本次Decoder采访中，Georgetown大学安全与新兴技术中心执行主任、曾投票解雇Sam Altman的OpenAI前董事会成员Helen Toner讨论了AI安全与治理的挑战。她解释说，OpenAI的非营利董事会原本旨在确保公司履行其安全使命，但当董事会试图采取行动时，这一问责机制失效了。Toner认为，如果我们对未来的希望寄托于任何单个人值得信任，那我们就麻烦了，我们需要更强的结构性保障和更广泛的AI治理参与。她还探讨了前沿实验室对递归自我改进和超级智能的追求、对AGI一词的怀疑、解决对齐问题的困难、在加速有益部署的同时放慢先进AI发展的必要性，以及美中AI竞赛的复杂性。她指出，公开市场可能给AI公司带来压力，也可能带来更强的治理，而近期现实世界中的AI事件已使美中在滥用和失控风险的严重性上出现一定共识。
(来源：The Verge)