Microsoftの新しいAIチップがNvidiaのGPUへの依存を減らす

Microsoftは第三世代の自社開発AIチップ「Maia 300」を発表した。これはMicrosoftの製品とサービスの「主要なAI推論システム」となることを目指している。2027年に生産開始予定で、主要なGPUベースシステムと比較して1メガワットあたり40%多くのトークンを提供し、96アクセラレータ構成ではMaia 200の最大7倍のラック規模トークンスループットを実現する。この効率向上により、MicrosoftはAzure Maiaファミリーをマルチギガワット展開に拡大し、NvidiaやAMDのGPUではなく自社チップに主に依存できるようになる。Maia 300はTSMCのN2Pプロセスに基づく新しいチップレットアーキテクチャを採用し、計算、メモリコントローラ、I/O機能を分離している。長文コンテキスト推論やエージェントタスクなどの新興AIワークロードに対応し、Google DeepMind、OpenAI、Anthropicに追いつくというMicrosoftの目標の中心となる。

(出典：The Verge)