Meta lanza el modelo Muse Spark Open de 816B parámetros, que se ejecuta localmente en Mac Studios emparejados
Resumen
Meta Platforms ha lanzado Muse Spark Open, un modelo de IA de peso abierto de 816 mil millones de parámetros con 42 mil millones de parámetros activos y una ventana de contexto de un millón de tokens, diseñado para codificación y tareas agénticas, destacando en tareas extendidas, razonamiento de múltiples pasos e ingeniería de software. Es el primer modelo de su clase capaz de ejecutarse en un escritorio, específicamente en dos Apple M5 Ultra Mac Studio usando el framework MLX de Apple. Una versión comprimida de 4 bits ocupa aproximadamente 493GB, demasiado grande para un solo Mac Studio de 512GB. Apple realizó pruebas comparativas del modelo de 4 bits a 24.99 tokens por segundo en dos M5 Ultra Mac Studio usando paralelismo tensorial, aumentando a 36.73 tokens por segundo en cuatro máquinas, utilizando RDMA sobre cables Thunderbolt 5 para transferencia de datos de baja latencia.
El CEO de Meta, Mark Zuckerberg, agradeció a John Ternus de Apple por la colaboración en el lanzamiento. Alexandr Wang, jefe de IA de Meta, dijo que Muse Spark Open "es el modelo de peso abierto estadounidense más capaz hasta la fecha" y bromeó con Axios sobre la asociación Apple-Meta. El lanzamiento de peso abierto incluye kernels GPU Helion personalizados en SGLang que, según Meta, ofrecen aceleraciones a nivel de kernel de 1.03 a 3.95 veces en GPU Nvidia y AMD, y una aceleración de extremo a extremo del 3% en AMD MI350. Los pesos del modelo están disponibles para descargar en Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face y Microsoft Foundry Models, y se puede acceder a través de plataformas API como Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI, bajo la Licencia del Modelo Muse con términos comerciales limitados.
Muse Spark Open sigue al lanzamiento anterior en 2026 de Muse Spark, el modelo insignia propietario cerrado que impulsa el asistente Meta AI. El lanzamiento de peso abierto se posiciona contra competidores chinos como Qwen de Alibaba y Kimi de Moonshot AI, que han dominado el mercado de modelos de peso abierto.
(Fuente:Valdrans)