El SDK Lemonade de AMD para IA local añade soporte para NVIDIA CUDA

Phoronix
AMD ha lanzado Lemonade 10.7, un SDK de servidor de IA local de código abierto que ahora incluye soporte para hardware NVIDIA CUDA.

Resumen

AMD ha actualizado su SDK Lemonade a la versión 10.7, ampliando sus capacidades de servidor de IA local para incluir soporte para NVIDIA CUDA. Aunque originalmente fue diseñado para CPUs, GPUs y NPUs de AMD, Lemonade busca ofrecer un entorno compatible con las APIs de OpenAI y Anthropic. Esta versión integra los back-ends de CUDA para Llama.cpp y stable-diffusion.cpp en Linux y Windows, junto con soporte para Vulkan en stable-diffusion.cpp. Además, la actualización introduce soporte para modelos LMX-Omni, un endpoint de Prometheus para monitoreo en tiempo real y una nueva herramienta de evaluación comparativa llamada "lemonade bench" para medir el rendimiento en diferentes pilas de software de IA.

(Fuente:Phoronix)