Intel LLM-Scaler Ready With Muse Glimmer Support, Other LLMs & Features - Phoronix
内容摘要
英特尔为其 LLM-Scaler 项目发布了更新，旨在简化在 Arc B 系列显卡上使用 vLLM 和 ComfyUI 等工具运行生成式 AI 的流程。最新的 LLM-Scaler-vLLM 测试版为 Meta 的 Muse Glimmer 30B 模型提供了当日支持，并在 Arc Pro B70 等硬件上支持 FP8 在线量化，同时增加了对 DFlash 的支持并提升了 Gemma 和 Qwen 系列模型的性能。此外，LLM-Scaler-Omni 测试版升级了 ComfyUI XPU 堆栈，支持了 MiniMax H3 和 Wan Animate 2 等本地视频生成工具，并进一步扩展了优化模型的覆盖范围。
(来源：Phoronix)