AMD 用于本地 AI 的 Lemonade SDK 增加了对 NVIDIA CUDA 的支持
内容摘要
AMD 更新了其 Lemonade SDK 至 10.7 版本，将其本地 AI 服务器功能扩展至 NVIDIA CUDA 硬件。尽管 Lemonade 最初是为 AMD 的 CPU、GPU 和 NPU 设计的，但它旨在提供一个兼容 OpenAI 和 Anthropic API 的环境。此次更新集成了 Linux 和 Windows 上的 Llama.cpp 和 stable-diffusion.cpp 的 CUDA 后端，并增加了对 stable-diffusion.cpp 的 Vulkan 支持。此外，该版本还引入了对 LMX-Omni 模型的支持、用于实时监控的 Prometheus 端点，以及一个名为 “lemonade bench” 的基准测试工具，用于评估各种 AI 软件栈的性能。
(来源：Phoronix)