为什么第一批GPU金融家在4亿美元的交易中转向推理芯片

人工智能推理云初创公司General Compute已从科技投资公司Upper90获得4亿美元贷款。这可能是第一笔以推理专用芯片作为抵押品的交易——用于快速有效地运行已经训练好的人工智能模型的芯片，而不是首先用于构建模型的更昂贵的芯片。

此次融资是最新的信号，表明市场正在通过转向比前沿实验室最新的法学硕士更便宜地运行开源模型的基础设施来应对对人工智能工具和代币价格的担忧。

General Computer由CEOFinn Puklowski创立，5月份获得了1500万美元的种子轮融资，旨在围绕英特尔支持的芯片制造商SambaNova的芯片构建推理Neocloud。 （Neocloud是专门为AI工作负载而构建的，与AWS或Azure等传统超大规模提供商提供的通用基础设施不同。）

该公司的SN50芯片专为推理而设计。它们节能，不需要昂贵的水冷系统，这意味着它们可以比GPU更快地部署在更多类型的数据中心。 General Compute表示，新芯片的推理速度将比基于GPU的云快16倍。

挑战在于获得大量此类芯片，尤其是当您是一家全新公司时。

Upper90联合创始人兼CEO、前高盛量化交易员Billy Libby对此有一套剧本：2021年，他的公司为专注于能源的数据中心初创公司Crusoe购买GPU提供了资金，他认为这是第一笔针对先进芯片价值的贷款。

由于GPU贬值的风险和不确定性，传统贷款机构当时避开了此类交易。但随着CoreWeave将芯片支持的贷款变成了一种商业模式，然后成为轰动一时的IPO的基础，这种融资已经变得很普遍。

“当我们作为第一批资助Nvidia GPU的公司时，市场效率很低，”Libby告诉TechCrunch。 “作为早期参与者，我们确实可以整合一些东西，并获得风险补偿。”

现在，GPU已经得到了相对较好的理解，而且可能已经被过度购买，Upper90正在转向General Compute等公司，以驾驭下一波人工智能热潮。 “我们认为开源模型将会很重要，去年我们就去寻找一个正在推理的参与者，”Libby说。 “并不是每个人都需要超级计算机，但他们确实需要推理和人工智能。”

随着OpenRouter和Fireworks等提供开放模型访问权限的公司以巨大的估值筹集新一轮资金，这一论点变得越来越有力。像Kimi的K3这样的新模型已被证明可以在编码基准测试中与Anthropic和OpenAI的最新版本竞争。 Groq和Cerebras等新芯片制造商也引起了收购方和公共市场的兴趣。

出于同样的原因，通用计算公司能够访问Nvidia生态系统之外的芯片也很重要。另一家人工智能基础设施公司TensorWave也对与AMD的合作做出了类似的赌注。随着更多Nvidia替代品的出现，不受Nvidia交易限制的计算提供商可能在提供经济高效的推理方面具有优势。

“有很多芯片开始规模化，它们的[总拥有成本]令人惊叹，或者运行速度比Nvidia快得多，但它们的买家并不多，”Puklowski说。 “通过与Upper90合作，这不仅仅是‘一家很酷的初创公司得到了一些钱来购买一些计算设备’。就像，这是资本自我组织和Nvidia垄断主导地位瓦解的第一个信号。”