微软新 AI 芯片减少对 Nvidia GPU 的依赖

The Verge
微软发布 Maia 300 自研 AI 芯片,旨在减少对 Nvidia GPU 的依赖。

内容摘要

微软宣布了其第三代 Maia 自研 AI 芯片 Maia 300,旨在成为微软产品和服务的“主要 AI 推理系统”。该芯片将于 2027 年开始量产,承诺每兆瓦令牌数比领先的 GPU 系统高出 40%,在 96 加速器配置下,机架级令牌吞吐量可达 Maia 200 的 7 倍。这一效率提升将使微软能够将 Azure Maia 系列扩展到多吉瓦部署,并主要依赖自研芯片而非 Nvidia 和 AMD 的 GPU。Maia 300 采用基于 TSMC N2P 工艺的新 chiplet 架构,将计算、内存控制器和 I/O 功能分离。它针对长上下文推理和代理任务等新兴 AI 工作负载,是微软追赶 Google DeepMind、OpenAI 和 Anthropic 的关键。

(来源:The Verge)