Thinking Machines通过其第一个开放模型Inkling加大了对通用人工智能的赌注

由前OpenAICTOMira Murati创立的人工智能初创公司Thinking Machines Lab于周三上午发布了其第一个内部人工智能模型,名为Inkling。与OpenAI、Anthropic或Google的旗舰型号不同,它是开放重量的,这意味着外部开发人员和公司可以直接下载并修改它。
Inkling是一个混合专家系统,拥有9750亿个总参数,但对于任何给定的任务,它只利用了其中的一小部分(大约410亿个),这是一种常见的设计,可以让大型模型更快、更便宜地运行。据该公司自己的发布材料,它接受了45万亿个文本、图像、音频和视频标记的训练,并在这四种标记上进行了本地推理。但目前,其输出仅限于文本,包括代码、样式化工件和结构化数据。
该模型是Thinking Machines Labs在花了一年半的时间在公众视野之外构建人工智能基础设施后首次公开证明。其中一些工作已经在五月份的“交互模型”研究预览中浮出水面——人工智能旨在听和说(甚至打断),而不是像典型的聊天机器人那样停下来等待。这也是对这家初创公司背后的核心赌注的一次考验,即组织可以适应自己的人工智能将胜过目前最大的实验室销售的通用模型。
Inkling旨在提供经过校准的答案,包括标记不确定性而不是猜测,并允许用户在想要换取速度时调高或调低“思考力度”。该公司表示,在一项基准测试中,Inkling使用的代币数量是Nvidia的Nemotron 3 Ultra(其最新一代开放权重模型)的三分之一,以达到相同的编码性能。
Thinking Machines并不声称Inkling是同类中最好的。其简报材料明确指出,Inkling“不是当今最强大的模型,无论是封闭式还是开放式”。显然,它的目标是全面的性能和可定制性。
这就提出了一个问题:在它的目标企业市场中,该产品真正适合谁。 Thinking Machines目前对Inkling的营销与其说是作为成品,不如说是作为一个起点,组织可以通过该公司的模型定制平台Tinker进行自我调整。例如,这也意味着客户,而不是思维机器,有责任确保他们的定制是安全的。 (微调需要认真的机器学习才能。)
OpenAI、Anthropic和Google都分别采用了与ChatGPT、Claude和Gemini截然不同的方法,它们都是为了首先作为通用聊天机器人进行竞争而构建的,在顶部具有代理、自主功能。
Thinking Machines上周发表的一篇文章显然是作为此版本的背景。该公司在那篇文章中指出,由一家公司集中培训然后固定下来的人工智能,其表现不如组织自行塑造的人工智能,因为太多的专业知识是特定于拥有它的人的。
这是一个正在不断升温的争论。在周日发表的一篇博文中,MicrosoftCEO萨蒂亚·纳德拉(其公司已在OpenAI和Anthropic上投资了数十亿美元)警告说,使用专有人工智能模型的企业实际上要支付两次费用:一次是订阅费用,另一次是通过移交嵌入在提示和更正中的商业知识来吸收到未来的模型版本中。
Hugging FaceCEOClem Delangue上周在与TechCrunch的对话中做出了类似的预测。他说,前沿模型将越来越多地保留用于实验和高价值任务,而大多数人工智能生产工作将转向私有或开源替代方案——Thinking Machines正是围绕这种分裂进行构建的。
Thinking Machines论点最清晰的证据来自于最近与世界上最大的对冲基金桥水基金 (Bridgewater Associates) 合作的项目(就其价值而言,该基金并不是Thinking Machines的投资者)。两家公司的研究人员采用了现有的开源模型,并据桥水基金自己的金融专业知识对其进行了进一步培训。据说,该结果在财务推理测试中得分为84.7%,击败了顶尖的专有人工智能模型,而运行成本大约是后者的14分之一——尽管这些结果来自两家公司自己的评估,而不是独立的评估。
不管怎样,Thinking Machines都在强调它到来的速度有多快。 OpenAI大约花了五年时间才将其技术推向市场并显示收入,Anthropic大约花了三年时间。 Thinking Machines表示,它在大约九个月内完成了同样的工作。
有些人会想知道Inkling是否接受过竞争对手模型输出的训练,这种被称为“蒸馏”的做法已经引起了整个行业的审查。据该公司自己的材料,简短的回答是部分如此。 Thinking Machines从头开始对Inkling进行了预训练,但该公司表示,它使用了其他开放权重模型(包括Moonshot AI的Kimi K2.5)来帮助在大规模强化学习接管之前生成一些早期的训练后数据。该公司坚称,下一个模型将使用完全独立的后期培训。
在成本方面,Thinking Machines则更加谨慎。今年3月份,该公司与Nvidia建立了合作伙伴关系,部署了千兆瓦的Vera Rubin计算能力,并完全在Nvidia的GB300 NVL72系统上训练Inkling,但并未透露计划如何支付这些成本,而且在大多数情况下,收入并不是优先考虑的事项。 (据称去年11月将进行一轮500亿美元的融资,但到1月就陷入停滞;此后该公司拒绝谈论其融资情况。)
一个相关的问题是Thinking Machines的支出是否会达到OpenAI或Anthropic的规模,或者其效率驱动的方法是否意味着经济学看起来有所不同。换句话说,该公司的赌注可能不是它最终会像其更大的竞争对手那样花钱,而是根本不需要——因为一旦权重公开,任何下载它们的人都没有义务付费给Thinking Machines来运行它们,这与按流量计费的OpenAI和Anthropic销售不同。公司的收入必须来自Tinker,而不是模型本身,通过培训、微调,以及现在围绕它构建的托管生态系统的一部分。
至少,员工人数看起来更加稳定。 Thinking Machines目前拥有约200名员工,高于今年早些时候一波离职潮后报道的水平,其中包括1月份跳槽到OpenAI的两名联合创始人。
就Thinking Machines而言,它似乎对像业内大多数公司那样夸大个人动作不感兴趣。据该公司内部消息人士透露,其文化从设计上讲就倾向于连续性而不是依赖任何一种个性。这是有道理的:如果人们从一开始就没有受到重视,那么当人们更换团队时,这就不是什么挫折。对于一家公司来说,坚持这样做也是一件了不起的事情,因为无论她是否计划这样做,它自己的故事仍然与现在著名的联合创始人的名字有关。