Google、2つの新しい専用チップでAIハードウェアポートフォリオを拡大

Googleは、特定のAIワークロード向けの2つの新しいテンソル処理ユニット（TPU）を発表し、自社設計チップのラインナップを拡大した。TPU 8txはAMDと共同設計され、機密性の高いトレーニングと推論に特化しており、ハードウェア層にセキュリティを組み込むことで、使用中でも機密データとモデルの重みを保護・分離する。また、カスタム推論ネットワークにより、トレーニングと並行して推論を実行でき、モデルの蒸留やオンザフライでのトレーニングが可能で、企業がデータをデバイス間で移動せずに独自データでモデルをトレーニングする用途に有用だという。TPU 8i Maxは、4月に発表された推論重視のTPU 8iチップ2つを1つのパッケージに統合し、メモリ容量、処理能力、帯域幅を倍増させ、AIモデルがクエリ時に幅広い情報を扱えるようにする。両チップは4月に導入された第8世代TPUファミリーの一部である。今回の発表は、MicrosoftやAmazonなどのハイパースケーラー、OpenAIやAnthropicなどのAI研究所がNvidiaへの依存を減らすために独自のAI専用半導体を開発する中で行われた。Nvidiaは、CEOのJensen Huang氏が中国のスパイとされる人物との不倫を認めたことで、特に脆弱な時期にある。

(出典：TechCrunch)