OpenAI unveils its first custom chip, built by Broadcom
概要
OpenAIは、Broadcomと共同設計した初の独自推論プロセッサ「Jalapeño」を発表しました。このチップはOpenAIのAIモデル特有の負荷を処理するために設計されており、電力効率の向上とリアルタイム推論の運用コスト削減を目的としています。チップアーキテクチャからソフトウェア、データセンターまでを垂直統合することで、OpenAIはNvidia製ハードウェアへの依存を減らし、インフラの効率と信頼性を最適化することを目指しています。
(出典：TechCrunch)