AMD Ryzen AI NPU 在 Linux 上终于可用于运行 LLM
内容摘要
尽管 AMD 在过去两年中已在 Linux 主线内核中开发了 AMDXDNA 加速器驱动来支持 AMD Ryzen AI NPU，但用户空间软件的支持一直非常有限。这一状况因 Lemonade 10.0 的发布而发生重大转变，该版本为大语言模型（LLM）和 Whisper 带来了 Linux NPU 支持，并原生集成了 Claude Code。Lemonade 依赖于开源的 FastFlowLM 运行时，该运行时是专为 Ryzen AI 构建的 NPU 优先运行时，目前支持高达 256k 的上下文长度。要使用此功能，用户需要 Linux 7.0 内核或 AMDXDNA 驱动的反向移植版本，它兼容所有当前的 AMD Ryzen AI 300/400 系列 SoC。此更新对即将上市的 Ryzen AI Embedded P100 系列和 Ryzen AI PRO 400 系列尤其重要，因为这些系列预计在 Linux 环境中会有更多应用。
(来源：Phoronix)