美国政府的Anthropic机型禁令从来都不是关于人工智能越狱

美国政府向Anthropic发出的强制执行信实际上迫使该公司在周末前将其最新的人工智能模型下线，这应该为任何美国科技公司（无论是人工智能实验室还是其他公司）敲响警钟。

为了让您了解新闻热点：周五下午，美国商务部发送了Anthropic一封信，援引了一项晦涩难懂的出口管制指令，该指令禁止非美国人（包括Anthropic的员工）访问《神鬼寓言5》和《神话5》，理由是未具体说明国家安全问题。 Anthropic表示，它认为这封信与绕过模型护栏有关，但不确定，因为这封信没有提供具体细节。这封信尚未公开。

作为回应，Anthropics向所有客户关闭了其两款顶级型号，以确保其符合该指令。结果是，美国政府采取迅速、单方面的行动，成功迫使一家科技公司下线其模型，而且似乎不需要法院批准。

特朗普政府周五的干预表明，人工智能行业并不能免受政府干预。这也是对更广泛的科技行业的警告：遵守规定，否则我们可以关闭您和您的产品。

Axios援引消息人士的话描述了周末两个主要参与者之间的紧张局势，称Anthropic和特朗普政府之间的“个性差异”导致了出口指令，而不是人工智能产品的技术问题。

周末出现的有关该问题的新细节现在使人们进一步怀疑政府本已不可靠的推理。

Luta Security创始人兼网络安全资深研究员凯蒂·穆苏里斯 (Katie Moussouris) 在博客文章中表示，Anthropic最近与她分享了一篇由安全研究人员撰写的论文的私人副本，该论文描述了《神鬼寓言5》中所谓的护栏绕过问题。（《华尔街日报》报道称，该论文的作者是Amazon的安全研究人员。）穆苏里斯表示，Anthropic联系了她，询问她对该论文的看法。

穆苏里斯的博客文章描述了研究人员如何触发护栏绕行，但表示绕行本身“永远不应该触发出口管制”。区别主要在于要求人工智能模型“检查代码是否存在安全问题”与要求其“修复此代码”。即使提出的问题略有不同，最终结果也基本相同。

穆苏里斯表示：“论文中描述的行为无法得到有意义的解决，任何尝试都只会削弱防御模式。”他批评出口管制指令仓促、严厉和误导。

此后，穆苏里斯和其他数十名顶级安全研究人员和专家呼吁特朗普政府撤销出口管制令，称此举是“危险的”。

过去的政府已经就知识差距做出了全面的决定。例如，美国政府在2010年代修复涉及也可用于网络攻击的网络安全工具的出口法时使用的措辞过于宽泛，以至于无意中几乎将合法的安全和漏洞研究定为非法。

然而，特朗普政府的指令似乎是报复性的。

科技政策出版社编辑贾斯汀·亨德里克斯表示，特朗普政府的举动“可能会引起外国资本对美国人工智能关键应用可靠性的警觉”。传达的信息是，不能相信美国的人工智能公司能够在没有美国政府干预的情况下运营。

特朗普政府尚未证实为何援引出口管制指令。官员们是否误读了报告而惊慌失措？ AmazonCEO安迪·贾西 (Andy Jassys) 是否出于谨慎或恶意向政府高级官员说了些什么而引发了反应？是翻译过程中丢失了一些东西，还是这是一种向Anthropic施压的方式，因为政府与政府已经有着不和的关系？白宫可能没有意识到这封信的要求所带来的深远影响，官员们正在忙于消除自己造成的损害。

用亨德里克斯的话来说，“人们普遍怀疑高级官员会据个人和政治因素来选择最喜欢的人选。”其后果是，政府在打算对美国制造的软件的发布进行多大程度的控制方面树立了一个危险的先例。

这次政府对Anthropic提出了异议；明天可能会和其他人一起。