El chip Jalapeño de OpenAI está diseñado para una inferencia rápida a escala, según muestran los benchmarks
TechCrunch
El nuevo chip Jalapeño de OpenAI demuestra importantes ventajas de rendimiento y eficiencia sobre los procesadores de inferencia actuales en pruebas recientes.Resumen
En la conferencia Hot Chips, OpenAI compartió los primeros resultados de rendimiento de su chip Jalapeño, desarrollado en colaboración con Broadcom. Probado en el benchmark InferenceX de Semianalysis, el chip superó a los procesadores actuales más avanzados, como el sistema Nvidia Blackwell, ofreciendo más tokens por usuario y mayor rendimiento por kilovatio. Diseñado para minimizar los cuellos de botella en las fases de prellenado y comunicación, Jalapeño busca proporcionar inferencia de IA rápida y de baja latencia a escala. OpenAI planea un despliegue inicial a finales de 2026 y una implementación más amplia en 2027.
(Fuente：TechCrunch)