推出 Mistral Large 4

Mistral
Mistral 推出 Mistral Large 4 公开预览版,这是一个拥有 1 万亿参数、在欧洲训练的开放权重多模态模型。

内容摘要

Mistral 已推出 Mistral Large 4(昵称 "le Chonk")的公开预览版,这是一个原生多模态模型,总参数达 1 万亿,激活参数为 490 亿,是该公司迄今为止规模最大、能力最强的模型。该模型性能达到前沿水平,可与全球最强开源模型竞争,并显著优于美国和欧洲开发的开放权重模型,在网络安全、金融、法律、编程、智能体工作流和多模态理解方面尤其突出,权重将于本月底发布。该模型从零开始在 Mistral 位于欧洲的自有数据中心使用 3,800 块 NVIDIA Grace Blackwell GPU 上训练,被视为欧洲 AI 主权的重要里程碑,使组织能够以开放权重和自部署方式掌控模型,并领先于 Artificial Analysis Cyber Index 和 Cybench 等网络安全基准,而许多闭源模型在这些测试中往往拒绝执行任务。其能力还涵盖智能体编程、业务流程自动化、科学与数学推理,以及电子表格、幻灯片、法律和财务分析等知识工作,背后依托运行在约 3,000 块 GPU 上的大规模强化学习流程,每天可产生约 330 亿个 token。该项目由 Mistral 30 亿欧元的 D 轮融资支持,这是欧洲科技公司有史以来规模最大的股权融资,而该模型将成为新一代专用 Mistral 模型的基础。

(来源:Mistral)