フランスの注目スタートアップZML、多種多様なAIチップの推論を高速化する無料製品をリリース
概要
Yann LeCun氏が支援するフランスのスタートアップZMLは、Nvidia、AMD、Google、Apple、Intelなどの多様なチップ上で大規模言語モデルの推論を高速化するソフトウェア「ZML/LLMD」をリリースしました。同社は、特定のチップへの依存（ベンダーロックイン）を解消し、AI導入に伴うコスト削減と効率化を目指しています。競合としてvLLMやSGLangが存在する中、ZMLはシリコンの共同設計という独自のアプローチを強みとしています。現在は無料製品として提供されており、利用状況を測定しながら、将来的な収益化の機会を探る戦略をとっています。
(出典：TechCrunch)