OpenAI y Broadcom presentan un chip de inferencia optimizado para LLM

OpenAI
OpenAI y Broadcom han presentado Jalapeño, un nuevo chip acelerador de IA diseñado para optimizar el rendimiento de inferencia de modelos de lenguaje grande.

Resumen

OpenAI y Broadcom han revelado Jalapeño, un procesador de inteligencia diseñado específicamente para la inferencia de modelos de lenguaje grande (LLM). Desarrollado en apenas nueve meses, el chip presenta una arquitectura optimizada para equilibrar el cómputo, la memoria y la red, logrando una eficiencia energética superior a la de los estándares actuales. Como primer paso de una colaboración generacional, Jalapeño comenzará a implementarse en centros de datos a gran escala a partir de 2026, con el objetivo de hacer que la IA avanzada sea más accesible, fiable y económica.

(Fuente:OpenAI)