Nvidia的AI优势正在超越GPU

本周之前,关于Nvidia的主流故事是这样的:在人工智能热潮的最初几年,Nvidia是最先进GPU的唯一来源,随着行业规模的扩大,GPU变得异常盈利。在过去的几年里,像Amazon和Google这样的超大规模企业已经开始制造自己的芯片,Nvidia不再是​​唯一的游戏,这让许多投资者想知道它的优势到底有多持久。

这是一个引人入胜的故事,而且大部分都是真实的。在2023年初到2025年中期间,Nvidia的市值增长了10倍,但由于对GPU竞争的担忧,Nvidia的股价在过去一年一直处于较为温和的走势。

自周三该公司公布财报以来,一种新的叙述已经形成,投资者开始意识到Nvidia的优势远远超出了GPU的范畴。随着人工智能的计算增长到千兆瓦规模,编排已成为一项日益复杂的任务。毫不奇怪,Nvidia已经构建了处理它所需的大部分最先进的硬件,这使该公司在GPU周围的系统中拥有巨大的优势,尽管它看到GPU本身的竞争日益激烈。

尽管人们都在谈论计算作为一种商品,但以最高效率运营大型数据中心仍然非常困难,而且随着部署变得越来越大、越来越快,这一挑战只会越来越大。

只需查看Nvidia实际销售产品的详细信息,您就可以看到其中的一些内容。该公司目前正在推出Vera Rubin架构,该架构将Rubin GPU与一系列其他单元配对,包括Vera CPU、Groq 3 LPX推理加速器以及用于存储和网络的类似机架。

过去一周,我一直在与Nvidia的人员讨论这些系统的实际用途,结果令人惊讶。与Rubin GPU本身一样,它们是极其专业的系统,但它们不是通过代币进行搅动,而是确保GPU之外的所有内容尽可能高效地工作。如果GPU是引擎,那么这些就是汽车的其余部分。

Vera CPU特别关注编排数据的问题。 “Vera很重要,因为单个服务器或任何类型的计算平台中只能容纳这么多内存,”Nvidia存储技术副总裁Jason Hardy告诉我。

随着数据中心计算能力的扩大,内存容量也随之扩大,这就是像美光这样的公司在第二波基础设施热潮中致富的原因。但在正确的时间将这些数据传输到GPU并不简单——随着公司希望将每瓦代币消耗得越来越低,他们意识到这种流量方向是多么重要。

“我们看到这些操作的性能提高了3倍以上,其中Vera CPU允许加速,”Hardy说。 “所以现在我们可以充分利用闪存的潜力,因为我们可以充分利用闪存而不会出现瓶颈。”

您可以在Nvidia之外查看相同问题的版本。当OpenAI开发Jalapeo芯片时,主要关注点是通过最大限度地减少需要移动的数据量来完全避免这些挑战。

该公司在本月早些时候的一篇博客文章中表示:“我们设计Jalapeo是为了最大限度地减少数据移动和通信延迟。” “它的大域允许整个工作负载保留在一次连接的系统中,最大限度地减少数据移动并帮助整个请求从头到尾保持快速和高效。”

这是一种不同的方法,通过在一次集成芯片内执行工作负载来完全避免数据移动。但总体逻辑是相同的,通过更智能的流量控制来提高效率,而不仅仅是更多的处理器周期。这反过来又为公司竞争开辟了一个全新的基础设施层。

这种对数据编排的新关注并不一定会成为Nvidia的胜利。该公司将不得不与竞争对手的芯片制造商和超大规模厂商竞争,就像与GPU竞争一样。但竞争已经进入了一个新的层面,在这个层面上,构建一个竞争对手的GPU比让整个系统高效工作更重要。

至少在早期阶段,英伟达看起来拥有绝对的领先优势。

← 上一篇文章 中国汽车制造商正在追随Tesla的赌注,认为机器人是下一个巨大的利润机器 下一篇文章 → Theragun Sense让日常恢复变得异常简单

← 返回列表