Amazon、新開発ツール「TorchNeuron」でNvidiaに対するこれまでで最大の挑戦

TechCrunch
AWSは、PyTorchのAIアプリを1行の設定変更でAmazonのTrainiumチップ上で動かせるツール「TorchNeuron」を公開し、Nvidiaのソフトウェアの堀に直接挑戦する。

概要

Amazon Web Servicesは、AIスタートアップがPyTorchベースのAIアプリをわずか1行の設定変更でAmazonのTrainiumチップ上で実行できるようにするツール「TorchNeuron」をリリースした。コードの書き直しは不要だ。AIアプリの約85%がPyTorchで構築されており、NvidiaのCUDAソフトウェアが長年デフォルトでこのエコシステムに深く組み込まれてきたため、この動きはNvidiaのソフトウェア上の優位性に対するAmazonのこれまでで最も直接的な挑戦となる。Amazonは、Trainiumへの移植が簡単なだけでなく、スタートアップがAWSのクラウド全体にアクセスできる点で、Nvidiaと結びついたCoreweave、Nebius、Firmusなどの新型クラウドよりも優れていると主張する。AWSの技術ソフトウェア担当VPであるColin Brace氏は、Trainiumがトレーニングと推論を単一プラットフォームで処理し、ワークロード全体の経済性を改善すると強調し、Deepgramが1ドルあたり70%多くの音声を処理している例を挙げた。さらにAmazonは、PyTorchを特定のチップに結びつけるコードを削除するため、上流のPyTorchプロジェクトに変更を贡献し、フレームワークをよりハードウェア非依存にすることを目指している。この戦略は開発者により多くの選択肢と手頃な選択肢をもたらす可能性がある一方、設定の手間が増える可能性もある。AmazonがPyTorchとNvidiaの分離に成功すれば、GPU巨人にとってチップ競争以上の大きな影響を与えるかもしれない。

(出典:TechCrunch)