网络安全专家抗议美国政府对Anthropic最强大模型的“危险”禁令

一个由数十名网络安全专家组成的团体，其中包括几位业内知名的资深人士，向美国政府发表了一封公开信，要求其取消对Anthropic的Fable和Mythos模型的出口管制令。

据公开信，“这一行动使[网络安全]捍卫者失去了最好的模型”，他们现在无法使用这些模型来发现漏洞并使他们的软件和产品更加安全。

信中写道：“当我们的对手正在迅速推进时，没有充分理由就剥夺防御者的最佳能力是危险的。”

据Anthropic报道，周五，美国政府出于国家安全考虑，下令Anthropic限制《寓言》和《神话》的出口，但没有解释该命令背后的具体原因。作为回应，该公司暂停了全球所有用户对这些模型的访问。

截至撰写本文时，这封信已由76名网络安全专家签署，其中包括：前Facebook安全主管Alex Stamos； Casey Ellis，漏洞赏金平台Bugcrowd创始人；著名密码学家、前Apple安全设计和架构经理Jon Callas；计算机科学家Paul Vixie； Dino Dai Zovi，Block前应用安全工程负责人； Katie Mossouris，Luta Security创始人；以及安全意识培训公司SocialProof Security的CEORachel Tobac。

当Mythos在4月份推出预览版时，Anthropicclaimedit在发现安全漏洞方面非常强大，以至于该公司需要严格限制访问，以防止恶意黑客或外国对手利用它对互联网造成严重破坏。实际上，这意味着Anthropic为大约50家公司提供了Mythos的初始访问权限，最近将该群体扩大到包括15个国家的大约150个组织。

上周，Anthropic发布了《神鬼寓言》，这是Mythos的公开版本，该公司表示，它有严格的防护措施，以阻止其在生物、化学和网络安全领域的使用，并阻止其他人提炼该模型以重新创建它。 《神鬼寓言》的防护栏非常严格，以至于许多网络安全专家发现它基本上阻止了任何与网络安全相关的提示。

Anthropic表示，白宫出口管制令可能是基于一份报告，该据报道有一种方法可以绕过（或所谓的越狱）《神鬼寓言》，以释放其强大的神话级功能。

联系我们您是否有关于引发禁令的Amazon论文的更多信息？我们很乐意听取您的意见。通过非工作设备和网络，您可以通过Signal（+1 917 257 1382）或通过Telegram和Keybase @lorenzofb、oremail安全地联系Lorenzo Franceschi-Bicchierai。

据公开信的签名者之一凯蒂·穆苏里斯 (Katie Moussouris) 称，Amazon研究人员在一篇未公开的论文中演示了该方法，但她已审阅过该论文。

但穆苏里萨在一篇博客文章中表示，这篇论文实际上并没有展示真正的越狱。相反，她写道，在该模型最初拒绝“审查代码的安全问题”后，研究人员只是要求Fable修复带有公共和已知漏洞以及“故意植入的漏洞”的开源代码。

穆苏里斯写道：“论文中描述的行为无法得到有意义的解决，任何尝试只会削弱防御模型。” “防御者需要能够要求人工智能修复文件中的错误，解释修复的重要性，并编写测试来确认补丁有效。这不是护栏绕过。这是人工智能模型可以为防御安全做的最有价值的事情：执行防御者每天运行的查找、修复和测试循环。”

Moussouris的批评在公开信中得到了回应，公开信还表示，专家组认为Amazon论文中的方法“可以复制”到OpenAI的GPT-5.5、Anthropic自己公开可用的Claude Opus 4.8和Sonnet，“甚至像Kimi 2.7这样的中国模型”。

这封信还要求通过“民主规则制定程序”制定透明且股权执行的法规，这些法规以行业和学术专家所做的科学研究为基础，并且“仅在确保美国公众安全所需的最低限度内使用”。