El SDK Lemonade de AMD para IA local añade soporte para NVIDIA CUDA
Resumen
AMD ha actualizado su SDK Lemonade a la versión 10.7, ampliando sus capacidades de servidor de IA local para incluir soporte para NVIDIA CUDA. Aunque originalmente fue diseñado para CPUs, GPUs y NPUs de AMD, Lemonade busca ofrecer un entorno compatible con las APIs de OpenAI y Anthropic. Esta versión integra los back-ends de CUDA para Llama.cpp y stable-diffusion.cpp en Linux y Windows, junto con soporte para Vulkan en stable-diffusion.cpp. Además, la actualización introduce soporte para modelos LMX-Omni, un endpoint de Prometheus para monitoreo en tiempo real y una nueva herramienta de evaluación comparativa llamada "lemonade bench" para medir el rendimiento en diferentes pilas de software de IA.
(Fuente:Phoronix)