随着美国权衡对中国人工智能的反应,业界敦促不要广泛的开放权重限制

包括Hugging Face、Meta、Microsoft、Mistral和Nvidia在内的多家人工智能公司已签署公开信,敦促政策制定者不要对开放权重人工智能模型施加广泛的“过早限制”。这封信发布之际,华盛顿正在讨论美国应如何回应有关中国人工智能实验室正在窃取美国同行知识产权并不断增强能力的指控。
这封信根本没有提到中国,但有报道称特朗普政府一直在考虑禁止中国的开放权重模型,并可能对中国的人工智能公司实施制裁。白宫甚至指责Moonshot AI提炼了Anthropic的Fable模型来训练其最近发布的、从各方面来看都非常令人印象深刻的Kimi K3模型。
这封信的目的似乎是阻止对中国模型的全面禁止,并确保政府对所谓的中国蒸馏的反应不会蔓延到对开放重量人工智能或蒸馏等常见技术的更广泛限制:
或者正如ReplitCEOAmjad Masad(该公司也签署了这封信)告诉TechCrunch的那样:“我认为禁止中国开放模型与禁止一般开放模型一样好。”他指出,Thinking Machines Lab的新开放模型Inkling是在Moonshot的Kimi 2.5的帮助下进行训练的。 “这是一个生态系统,[禁令]设定的先例很糟糕。”
这封信还反驳了业界的观点,即开放权重模型本质上是危险的,因为它们扩展了对强大模型的访问,这些模型可以在没有任何监督的情况下用于网络攻击或其他邪恶活动。
“应对这种风险的正确反应不是禁止开放权重。在网络安全攻击者使用先进人工智能的世界中,防御者需要访问具有类似功能的模型,以便他们能够检测、模拟和响应新出现的威胁,”信中写道。 “开放模型扩大了防御能力,提高了透明度,并允许在许多团队中发现和修复漏洞。”
上周,OpenAI披露,在测试GPT-5.6 Sol和另一个未命名模型时,其中一个系统利用其测试环境中的一个弱点来访问包含编码基准测试解决方案的Hugging Face存储库。人们可能会说该模型的目标并不是恶意的,它实际上是在测试中作弊以获得最高分。但这一事件引发了关于将先进人工智能技术集中在少数封闭提供商背后的风险的争论。
Hugging Facesaidit无法防御商业前沿人工智能模型的攻击,因为它们的护栏阻碍了它的努力。它使用的封闭人工智能模型无法区分被要求为攻击者构建漏洞和试图检测它们的防御者。相反,该公司不得不转向使用中国人工智能公司再爱科技的GLM 5.2(一种强大的开放权重模型)来防御攻击。
这封信凸显了人工智能行业的分歧。随着开放权重模型能力的快速增长,OpenAI和Anthropic等公司已敦促政府对中国人工智能公司涉嫌盗窃知识产权的行为做出回应。这一结果可能会对他们的商业模式产生重大影响,而这种商业模式正受到廉价、高性能且易于使用的人工智能模型传播的威胁。
这些公司,以及Google DeepMind和SpaceX等其他闭源人工智能开发商,在这封信的底部缺席,这一点值得注意。
那些签署这封信的人显然对开放人工智能模型的蓬勃发展有着经济利益。 Nvidia、Microsoft Azure和其他基础设施提供商等公司对推动商品化模型有着既得利益:如果模型可以互换,人们将购买更多GPU、租用更多云容量并构建更多应用程序。
这封信鼓励政策制定者扩大初创公司和研究人员的计算能力;投资共享培训资产,如数据集、工具和评估框架; “通过避免过早限制开放模式来抑制竞争或推动海外创新,[保持]前沿多元化。”
本文已据ReplitCEOAmjad Masad的评论进行了更新。