Anthropic的Dario Amodei回应：不反对开放权重模型，但担心中国人工智能

Anthropic创始人兼CEO达里奥·阿莫代尔 (Dario Amodeire) 于周一下午回应业界的抱怨，称他的公司以某种方式支持美国政府禁止开放重量的中国模型，或者可能普遍禁止开放重量的模型。

“任何读过我过去的文章的人都应该知道，我并不认为此类禁令是有用的措施，但让我清楚地说明这一点，以便毫无疑问：Anthropic从未主张禁止开放权重模型，”他写道，强调了他自己的观点。

他的回应是在周五Nvidia创始人兼CEO黄仁勋 (Jensen Huang) 在X（他在该平台上的第一篇文章）分享一封公开信后作出的，其中Nvidia和一长串其他人工智能公司，包括Hugging Face、Meta、Microsoft、Mistral和Nvidia敦促政策制定者不要对开放权重AI模型施加广泛的“过早限制”。

虽然这封信没有具体提到中国，但业内的争论集中在有关中国人工智能实验室经常通过窃取美国同行的知识产权来增强能力的指控上。一种方法是蒸馏，即人工智能通过提示轰炸另一个模型，以了解其工作原理。

阿莫迪在周一发表的博客文章中表示，他认为开放权重模型与中国构成的威胁属于不同的范畴。 “不具有危险功能的开放权重模型是一种公共利益：除了运行它们所需的计算之外，它们不需要任何成本，并且它们为企业、开发人员和研究人员提供价值。”

阿莫代在帖子中表示，他长期以来对人工智能心存恐惧，但使用开放权重模型的企业，甚至来自中国的企业，并不在其中。

他担心“独裁政府”将建立比美国更强大的模型，以实现“永久的军事优势”和/或使用人工智能镇压自己的人民。他说，中国共产党并不是他唯一担心的独裁政府，但它是“最有能力的”。

阿莫迪还表示，他担心人工智能不仅会引发网络安全攻击，还会引发“生物攻击”。而且，在他看来，开放权重模型在这些情况下更加危险，因为很难对其应用护栏或监控其使用情况。他还援引英国人工智能安全研究所的一份报告指出，开放权重一旦发布，就无法撤回

这与开源倡导者的观点背道而驰：访问不受单一实体控制的强大开放模型有助于防御者保护自己。

阿莫迪列出了他认为会阻碍中国的行动，包括限制其获得强大的芯片（这是美国的一项长期政策）并呼吁正式打击蒸馏。如果中国认定美国型号存在知识产权盗窃行为，美国将威胁对中国实施制裁。

有趣的是，阿莫迪还表示，他支持不断努力（其中一些由美国领导）创建一个模范安全测试组织，特别是如果包括中国在内的全世界都同意接受该组织的话。

阿莫代写道：“我认为这个想法实际上已经接近共识：令我感到振奋的是，特朗普政府近几个月来朝这个方向迈进，最近的行业提案将对最有能力的模型进行此类测试，无论其原产国如何，无论它们是开放的还是封闭的（同时完全排除能力较差的模型，例如来自初创公司和学术界的模型）。”

他补充说：“请注意，为了有效，测试需要在全球范围内进行，这意味着即使是中共也需要参与。我认为这实际上是可能的……围绕防止人工智能生物武器进行有限的合作可能是可能的，因为这也符合中国的利益。”