法国热门初创公司 ZML 发布免费产品，旨在提升多种 AI 芯片的推理速度
内容摘要
由 Yann LeCun 支持的巴黎初创公司 ZML 发布了推理服务器软件 ZML/LLMD，该软件能够让大型语言模型在包括 Nvidia、AMD、Google、Apple 和 Intel 在内的多种芯片上高效运行。ZML 旨在通过提升各种硬件的性能来打破技术壁垒，减少企业对单一供应商的依赖并降低 AI 部署成本。尽管面临 vLLM 和 SGLang 等竞品的竞争，ZML 凭借其在芯片协同设计方面的雄心和快速迭代能力脱颖而出。目前该产品以免费形式推出，旨在通过实际使用场景收集反馈，为未来商业化模式奠定基础。
(来源：TechCrunch)