萨蒂亚·纳德拉 (Satya Nadella) 对使用人工智能的公司发出了令人震惊的警告

在关于人工智能潜在缺点的所有激烈争论中，有一种担忧最让硅谷的人工智能爱好者们焦急万分。他们担心的是，销售专有模型的大型人工智能实验室在某种程度上表现得像特洛伊木马。

令人担忧的是，随着初创公司和企业使用来自OpenAI和Anthropic等实验室的人工智能模型，这些实验室越来越多地访问这些公司最敏感的商业信息。然后，模型制作者可以为自己使用这些知识，有可能成为自己客户的竞争对手。发出此类警告的人包括Jason Calacanis等风险投资家以及PalantirCEOAlex Karp。

现在，在周一发布的一篇令人惊讶的博客文章中，MicrosoftCEO萨蒂亚·纳德拉 (Satya Nadella) 也加入了这一行列。纳德拉警告说，人工智能用户（他称之为“买家”）正在付出两次代价。他们故意为人工智能代币的使用而花钱，但他们也无意中在这个过程中交出了有价值的数据。

“本质上，你要为情报付出两次代价，一次用金钱，另一次用更有价值的东西：你必须透露的专有知识才能使情报发挥作用。你希望模型表现得越好，你需要提供的知识就越多！”他写道。

他认为，最危险的是，企业实际上是在向模型传授其业务的细微差别。

“模型从‘耗尽’中学习，从人们写下的提示、代理使用的工具，尤其是人们在模型错误时做出的修正中学习。每一次修正都被提炼成机构的专业知识，”他写道。

这是“竞争对手永远买不到的知识”，但企业正在将其拱手让出。

纳德拉认为，如果人工智能公司可以自由地抓取互联网来训练他们的模型，那么企业可以研究或“提炼”这些模型作为回报，这是股权的。 “蒸馏”是使用模型自身的输出来了解其工作原理并据这些见解训练新的、通常更便宜的模型的做法。今年2月，Anthropic指责中国开源模型向Claude发送数百万条提示，以此作为改进自己模型的一种方式，并敦促美国政府严厉打击出口管制。

纳德拉的观点是，模型制作者不能鱼与熊掌兼得。他们自由地利用世界上的数据进行训练，同时限制其他人对他们的模型进行同样的操作，这是虚伪的。

纳德拉写道：“虽然模型提供商需要拥有在公共数据上训练模型的股权使用权，因此伟大的创新是必要的，但我觉得讽刺的是，现状却反过来对蒸馏施加限制性条款。”

当模型制造商“保留从客户使用和交互数据中学习的权利”时，纳德拉尤其担心。

纳德拉的解决方案是大型云提供商的CEO会建议的解决方案。他希望公司“保留其数据的所有权”，包括提示、反馈等。因此，他敦促他们在云上构建自己的“专有学习环境”（无论如何，他们的数据可能已经存储在其中，方便地可以指Microsoft的云、Azure）。他还希望公司建立他所说的“编排层”——本质上是一种在不同提供商的人工智能模型之间轻松切换的方法，而不是被锁定在一次提供商的人工智能模型中。让公司做到这一点的人工智能“网关”等工具已经变得越来越主流。

虽然纳德拉从未使用“开源”一词作为保留所有权的方法，但这是一个明显的潜台词。然而，还有另一个潜台词。

大公司，其中许多除了使用云之外仍然拥有一些自己的数据中心，已经转向安装在自己的场所（行业术语“本地”）的开源模型。 Solo.io的创始人兼CEO伊迪特·莱文 (Idit Levine) 表示，她在自己的客户中看到了这种转变，该公司生产帮助企业管理人工智能系统的网络和安全软件。在与专有模型制作者进行实验后，他们开始问自己：“我可以采用开源模型并在本地运行它吗？它几乎可以完成大型模型制作者所做的90% 的工作。而且成本会低得多，”她告诉TechCrunch。 “他们明白这一点，并且可以控制它。”

Solo.io的技术去年被选为Linux基金会Agentgateway项目的技术支持者。她的公司将T-Mobile、ADP和SAP等企业视为客户。她看到越来越多的公司安装本地开源模型，并将其视为企业人工智能使用的下一个大浪潮。

她并不孤单。 Vercel（最著名的是用于构建和托管网站的平台，最近添加了AI模型切换工具）和OpenRouter（一家帮助开发人员跨不同AI模型路由请求的公司）都看到开源模型的流量激增。事实上，开放模型占上个月通过Vercel网关路由的所有流量的29%。

Microsoft（一家同时投资了OpenAI和Anthropic的公司的CEO现在公开敦促企业谨慎使用专有模型，我们打赌这一趋势将继续增长。 “在消耗智力的过程中，你正在创造智力。你所创造的东西应该属于你，”纳德拉写道。