Anthropic限制Mythos的发布是为了保护互联网，还是Anthropic？
Anthropic本周表示，它限制了其名为Mythos的最新型号的发布，因为它太有能力发现世界各地用户所依赖的软件中的安全漏洞。
前沿实验室不会向公众释放神话，而是与一群运营关键在线基础设施的大公司和组织（从Amazon Web Services到摩根大通）分享它。
据报道，OpenAI正在考虑为其下一个网络安全工具制定类似的计划。表面上的想法是让这些大企业领先于那些可以利用高级法学硕士渗透安全软件的不良行为者。
但上面句子中的“电子词”暗示，这种发布策略可能不仅仅是网络安全——或者模型功能的炒作。
AI网络安全实验室Irregular的CEODan Lahav在3月份Mythos发布之前告诉TechCrunch，虽然AI工具发现的漏洞很重要，但任何弱点对攻击者的具体价值取决于许多因素，包括如何组合使用它们。
拉哈夫说：“我心中一直存在的问题是，他们是否找到了可以以非常有意义的方式利用的东西，无论是单独的还是作为链条的一部分？”
Anthropic表示Mythos能够比其之前的模型Opus更多地利用漏洞。但目前尚不清楚Mythos是否真的是网络安全模型的全部和最终目标。 AI网络安全初创公司Aisle表示，它能够复制Anthropic所说的Mythos使用更小、开放重量的模型所完成的大部分内容。 Aisle的团队认为，这些结果表明网络安全不存在单一的深度学习模型，而是取决于手头的任务。
鉴于Opus已经被视为网络安全的游戏规则改变者，前沿实验室可能希望限制其向大型组织发布的另一个原因是：它为大型企业合同创建了一个飞轮，同时使竞争对手更难使用蒸馏复制他们的模型，蒸馏是一种利用前沿模型以低廉的价格培训新法学硕士的技术。
“这是营销掩盖的事实，即高端模型现在受到企业协议的限制，不再可供小型实验室提炼，”初创公司exe.dev的软件工程师兼CEODavid Crawshaw在社交媒体帖子中建议道。 “当你和我可以使用Mythos时，将会出现一种仅限企业的新高端转速。这种跑步机通过将蒸馏公司降到第二位来帮助保持企业资金流动（这是大部分美元），”Crawshaw说。
这一分析与我们在人工智能生态系统中看到的情况相符：开发最大、最有能力的模型的前沿实验室与像Aisle这样依赖多种模型的公司之间的竞争，并将开源法学硕士（通常来自中国，据称通常是通过蒸馏开发）视为获得经济优势的途径。
据彭博社报道，前沿实验室今年在蒸馏问题上采取了更强硬的立场，Anthropic公开披露了所谓的中国公司试图复制其模型的行为，并且三个领先的实验室——Anthropic、Google和OpenAI联手识别蒸馏器并阻止它们。据彭博社的报道，蒸馏对前沿实验室的商业模式构成了威胁，因为它消除了使用大量资本来进行蒸馏所带来的优势。规模。那么，阻止蒸馏已经是一项值得的努力，但选择性发布方法也为实验室提供了一种区分其企业产品的方法，因为该类别成为盈利部署的关键。
神话或任何新模式是否真正威胁到互联网的安全还有待观察，谨慎地推出该技术是一种负责任的前进方式。
截至发稿时，Anthropic没有回答我们关于该决定是否也与蒸馏问题有关的问题，但该公司可能已经找到了一种保护互联网及其底线的聪明方法。