OpenAI 与 Broadcom 发布针对大语言模型优化的推理芯片
内容摘要
OpenAI 与 Broadcom 共同发布了首款名为 Jalapeño 的智能处理器,这是一款专为大语言模型(LLM)推理架构设计的 AI 加速器。该芯片从设计到投产仅用了九个月,旨在通过优化计算、内存和网络资源,提供比现有硬件更高的单位功耗性能。作为双方多代计算平台合作的首个成果,Jalapeño 将于 2026 年起应用于大规模数据中心,致力于通过软硬件协同优化,让先进的 AI 技术更快速、更经济且更易于使用。
(来源:OpenAI)