法国热门初创公司ZML发布免费产品，以加快多种人工智能芯片的推理速度

英伟达无与伦比的市场统治地位的时代还没有结束，但挑战者和选择正从四面八方涌现。

ZML是一家受到图灵奖得主Yann LeCun认可的热门法国人工智能初创公司，它发布了推理性能软件，允许各种开源大型语言模型在各种芯片上运行，包括Nvidia、AMD、Google的TPU、Apple Metal和Intel Arc。

ZML创始人Steeve Morin告诉TechCrunch，凭借新推出的LLM推理服务器ZML/LLMD，该公司的目标是打破现有的孤岛，并以最大可用速度（有时甚至更快）为AI用例提供不同的芯片。

莫林说，随着人工智能融入我们的工作和日常生活，优化推理（又名提示处理）的重要性已经超过了模型训练，但在幕后往往感觉不完整，软件和架构障碍导致供应商锁定。

在各种芯片上实现峰值性能的承诺是一项技术壮举，但由于人们对人工智能相关成本的担忧日益加剧，它也可能成为市场颠覆者。

ZML希望为企业和云提供使用混合芯片的选择，其中一些芯片可能成本更低或消耗更少的能源。 “我们的想法是让人们重新获得创建自己系统的能力，并实现真正的效率提升，从而使 [AI] 得以传播，”莫林说。

Morin指出，这样的软件辅助可能会帮助新兴的AI芯片制造商，其中许多恰好来自欧洲，并引用Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud和VSORA的说法。但对他来说，比他们的原产地更重要的是，ZML可以与他们合作开展“世界上任何地方都没有做过的事情”。

这并不意味着莫林看空英伟达。他之所以不看好，部分原因是英伟达现有的供应量。他告诉TechCrunch，ZML与这家AI芯片巨头关系良好，该公司一直在为推理的崛起做好准备。

推理一直是投资如此密集的领域，这一趋势被誉为“推理淘金热”。因此，ZML的竞争对手包括Baseten，最近估值为130亿美元；Inferact，来自开源项目vLLM的创建者；以及SGLang背后的商业公司RadixArk。

vLLM和SGLang都与LLMD存在部分竞争，但Morin对ZML的野心涵盖更广泛的领域。 “我们已经达到了共同设计芯片的地步，”他说。他进一步将ZML的20人精干团队归功于这家总部位于巴黎的初创公司能够快速行动并计划发布更多版本的原因。

这也有助于这个小团队在规模上拥有充足的资金。 Morin在Zenly（2017年以9位数的价格被Snapchat收购）担任工程副总裁期间，从Harry Stebbings的20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel的Kima Ventures、Kindred Capital、LocalGlobe和Puzzle Ventures等风险投资公司筹集了2000万美元。

与ZML的第一个公共项目（2024年发布并于3月更新的专注于推理的ML框架）不同，ZML/LLMD不是开源的。但它作为免费产品推出，目的是了解使用情况。 “我宁愿衡量并[然后创造收入]最有效的地方，而又不会愚蠢地阻碍我的成长，因为我从一开始就太贪婪了，”莫林说。

现在判断ZML/LLMD何时成为付费产品及其采用情况还为时过早。但这家初创公司的股权结构表证实了其他创始人正在关注，包括Dagger和Docker创始人Solomon Hykes、Hugging Face的Clément Delangue和Julien Chaumond，以及现在加入AMI Labs的LeCun。这也为欧洲的人工智能初创公司现在可以在家中构建奠定了基础。 “除了巴黎，我无法在任何地方进行ZML，”莫林说。