Amazon lanza su mayor desafío a Nvidia con la nueva herramienta de desarrollo TorchNeuron

Amazon Web Services lanzó TorchNeuron, una herramienta que permite a las startups de IA ejecutar aplicaciones basadas en PyTorch en los chips Trainium de Amazon cambiando solo una línea de configuración, sin necesidad de reescribir código. Dado que aproximadamente el 85% de las aplicaciones de IA se construyen con PyTorch, y que el software CUDA de Nvidia ha estado profundamente integrado en ese ecosistema de forma predeterminada durante años, este movimiento representa el desafío más directo de Amazon hasta ahora a la ventaja de software de Nvidia. Amazon argumenta que migrar a Trainium no solo es fácil, sino que también da a las startups acceso a toda la nube de AWS, lo que lo convierte en una mejor opción que las neoclouds vinculadas a Nvidia como Coreweave, Nebius y Firmus. Colin Brace, VP de Tecnología de Software en AWS Annapurna Labs, enfatizó que Trainium ofrece tanto entrenamiento como inferencia en una sola plataforma, mejorando la economía de las cargas de trabajo completas, y citó a Deepgram como cliente que procesa un 70% más de audio por dólar. Además de su propio hardware, Amazon está contribuyendo con cambios upstream a PyTorch para eliminar el código que vincula el framework a chips específicos, con el objetivo de hacerlo más agnóstico al hardware. Si bien esto podría dar a los desarrolladores más opciones y alternativas asequibles, está por verse si reduce los dolores de cabeza de configuración o simplemente los traslada. Si Amazon logra desacoplar PyTorch de Nvidia, podría tener ramificaciones mucho mayores para el gigante de las GPU que la simple competencia de chips.

(Fuente：TechCrunch)