Amazon 凭借新开发者工具 TorchNeuron 对 Nvidia 发起迄今最大挑战

TechCrunch
AWS 发布 TorchNeuron,让 PyTorch AI 应用只需一行配置即可运行在 Amazon 的 Trainium 芯片上,直接挑战 Nvidia 的软件护城河。

内容摘要

Amazon Web Services 发布了名为 TorchNeuron 的工具,让 AI 初创公司只需更改一行配置,就能将基于 PyTorch 的 AI 应用迁移到 Amazon 的 Trainium 芯片上,无需重写代码。由于约 85% 的 AI 应用都是用 PyTorch 构建的,而 Nvidia 的 CUDA 软件长期以来默认深度嵌入该生态,此举是 Amazon 对 Nvidia 软件优势迄今最直接的挑战。Amazon 认为,迁移到 Trainium 不仅简单,还能让初创公司使用 AWS 的完整云基础设施,比依赖 Nvidia 硬件的 Coreweave、Nebius 和 Firmus 等新型云厂商更合适。AWS 技术软件副总裁 Colin Brace 强调,Trainium 在同一平台上同时支持训练和推理,能改善完整工作负载的经济性,并援引 Deepgram 为例,称其每美元处理的音频量提升了 70%。除自家硬件外,Amazon 还向 PyTorch 上游贡献代码,移除将该框架与特定芯片绑定的代码,目标是让 PyTorch 对整个开发者社区更加硬件无关。这一策略可能给开发者带来更多选择和更实惠的方案,但也可能带来更多配置麻烦。如果 Amazon 成功将 PyTorch 与 Nvidia 解耦,对这家 GPU 巨头的影响可能远不止芯片竞争。

(来源:TechCrunch)