OpenAIとBroadcom、LLMに最適化された推論チップを発表

OpenAI
OpenAIとBroadcomが、LLM(大規模言語モデル)の推論性能を最適化するカスタムAIアクセラレータチップ「Jalapeño」を発表しました。

概要

OpenAIとBroadcomは、LLM(大規模言語モデル)の推論に特化した新しいAIアクセラレータ「Jalapeño」を発表しました。設計から製造までわずか9ヶ月で開発されたこのチップは、計算、メモリ、ネットワークリソースのバランスを最適化し、既存の最高性能チップを上回る電力効率を実現します。両社による複数世代にわたる計算プラットフォーム構築の第一弾として、2026年からギガワット規模のデータセンターでの導入が予定されており、より高速で信頼性の高いAIインフラの提供を目指しています。

(出典:OpenAI)