OpenAI unveils its first custom chip, built by Broadcom

TechCrunch
OpenAI 推出了其首款由 Broadcom 合作开发的定制推理芯片 Jalapeño,旨在优化 AI 模型性能并降低运行成本。

内容摘要

OpenAI 发布了其首款与 Broadcom 合作设计的定制推理处理器,代号为 Jalapeño。该芯片专门针对 OpenAI 的 AI 模型需求进行设计,旨在提升单位功耗性能并降低实时推理的运营成本。通过将芯片架构与其软件和数据中心进行垂直整合,OpenAI 希望减少对 Nvidia 硬件的依赖,从而更全面地提升其基础设施的效率与可靠性。

(来源:TechCrunch)