Meta 发布 816B 参数 Muse Spark Open 模型,可在配对的 Mac Studio 上本地运行
内容摘要
Meta Platforms 发布了 Muse Spark Open,一个 8160 亿参数的开源权重 AI 模型,拥有 420 亿活跃参数和一百万 token 上下文窗口,专为编码和智能体任务设计,擅长扩展任务、多步推理和软件工程。这是同类模型中首个可在桌面设备上运行的模型,具体是在两台 Apple M5 Ultra Mac Studio 上使用 Apple 的 MLX 框架运行。压缩的 4 位版本约占 493GB,无法装入单台 512GB 的 Mac Studio。Apple 对 4 位模型进行基准测试,在两台 M5 Ultra Mac Studio 上使用张量并行达到每秒 24.99 个 token,在四台机器上提升至每秒 36.73 个 token,通过 Thunderbolt 5 线缆上的 RDMA 实现低延迟数据传输。
Meta 首席执行官 Mark Zuckerberg 感谢 Apple 的 John Ternus 在发布上的合作。Meta 的 AI 负责人 Alexandr Wang 称 Muse Spark Open 是“迄今为止美国最有能力的开源权重模型”,并对 Axios 开玩笑说 Apple-Meta 合作是“爸爸妈妈又和睦相处了”。该开源权重版本随附 SGLang 中的自定义 Helion GPU 内核,Meta 称其在 Nvidia 和 AMD GPU 上实现 1.03 至 3.95 倍的内核级加速,在 AMD MI350 上实现 3% 的端到端加速。模型权重可在 Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face 和 Microsoft Foundry Models 上下载,并可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等 API 平台访问,依据 Muse Model License 发布,附带有限的商业条款。
Muse Spark Open 紧随 2026 年早些时候发布的 Muse Spark——驱动 Meta AI 助手的闭源专有旗舰模型。该开源权重版本的定位是与中国竞争对手抗衡,包括阿里巴巴的 Qwen 和 Moonshot AI 的 Kimi,它们一直主导着开源权重模型市场。
(来源:Valdrans)