Sam Altman 表示,将 RAM 放在数据中心比放在你的桌面上更好
内容摘要
在 Cheeky Pint 播客的一次采访中,OpenAI CEO Sam Altman 谈到了当前的 RAM 短缺问题以及本地 AI 推理的需求。他表示,尽管许多人希望在自己的电脑上运行开源模型,但从全球分配的角度来看,让世界上有限的 DRAM 供应留在个人电脑中且仅使用百分之五的时间是“相当糟糕的”。Altman 强调,在供应受限的环境中,云端的最大化利用是必要的。此番言论发表之际,内存制造商 Samsung 和 SK Hynix 已与云服务运营商及 OpenAI 的 Stargate 等项目签署长期协议,预留了未来数年全球大部分 RAM 产量,从而推高了消费设备的价格。
(来源:The Verge)