Las NPU AMD Ryzen AI Finalmente Son Útiles Bajo Linux Para Ejecutar LLMs
Lemonade 10.0, utilizando el runtime FastFlowLM, ahora permite ejecutar Modelos de Lenguaje Grandes en las NPU AMD Ryzen AI bajo Linux.Resumen
Durante dos años, el soporte para las NPU AMD Ryzen AI en el kernel de Linux a través del controlador AMDXDNA ha existido, pero la utilización en el software de espacio de usuario ha sido extremadamente limitada. Este panorama cambia significativamente con el lanzamiento de Lemonade 10.0, que introduce soporte NPU en Linux para ejecutar Modelos de Lenguaje Grandes (LLMs) y Whisper, además de integrar nativamente Claude Code. Lemonade se basa en el runtime de código abierto FastFlowLM, diseñado exclusivamente como un runtime NPU-first para Ryzen AI, capaz de manejar longitudes de contexto de hasta 256k tokens con las NPU de generación actual. Para utilizar esta capacidad, los usuarios necesitan el kernel Linux 7.0 o las actualizaciones de retroportación del controlador AMDXDNA, y es compatible con todos los SoC AMD Ryzen AI 300/400 actuales. Este desarrollo es oportuno, especialmente con la llegada de las series Ryzen AI Embedded P100 y Ryzen AI PRO 400, que probablemente verán un mayor uso en Linux.
(Fuente：Phoronix)