当特朗普政府镇压Anthropic时,谁受益?

由于特朗普政府的出口管制令,Anthropic最近下线了其两个最新的人工智能模型,引发了有关人工智能政策和数字主权的广泛辩论。
在最新一期的TechCrunch股票播客中,肖恩·奥凯恩 (Sean O’Kane)、丽贝卡·贝兰 (Rebecca Bellan) 和我讨论了到底是什么促使政府采取针对Anthropic的行动,以及这对更广泛的人工智能生态系统可能意味着什么。
正如Sean所说,“Anthropic与特朗普政府的关系并没有与其他领先的人工智能实验室区分开来,”因此也许其他Anthropic的竞争对手不需要担心类似的镇压。
但丽贝卡还指出,领先的网络安全专家已经“签署了一封公开信,要求特朗普撤销该命令,他们表示,不得不从美国网络防御者手中撤走这些先进的网络安全能力实际上是危险的。”
我们想知道这是否最终会成为Anthropic的良好宣传,特别是因为——用丽贝卡的话说——“每个人都喜欢坏男孩。”
继续阅读我们的对话预览,我们的对话经过了长度和清晰度的编辑。
丽贝卡·贝兰:我相信我们的许多听众都知道,美国政府基本上只是强迫Anthropic将其两款最新型号下线 - 《神鬼寓言5》,然后还有《神话5》,这是一款可供当前神话用户使用的游戏,[而] 《神鬼寓言5》更适合公众使用。
他们(上)周五发出一封信,提到“国家安全担忧”。没有人知道这些担忧是什么。该报告尚未公开,他们没有提供具体细节,并告诉 [Anthropic] 他们必须确保这些模型不能被任何外国人使用。所以Anthropic就像,“好吧,我想我们必须完全拉动模型,因为我们不知道某人何时是外国人。我们自己的很多员工都是外国人。”
但实际上,[报道称]白宫得到了这一消息,因为一些Amazon研究人员据称找到了绕过《神鬼寓言5》护栏的方法。AmazonCEO安迪·贾西向白宫提出了这些担忧,从那里开始,事情就开始螺旋式上升。
肖恩·奥凯恩:这一切进展得非常快,尤其是从周五下午到周末。与此同时,政府表面上正试图就其在伊朗发动的战争达成某种条约。
丽贝卡:星期五晚上我们在纽约。他们喜欢分散注意力。
肖恩:让我们退后一步。 Anthropic与特朗普政府的关系并没有与其他领先的人工智能实验室区分开来——我认为至少有一个因素在这里发挥作用。
那么您认为这会对其他公司产生影响吗?您是否认为特朗普政府不太愿意关闭其中一位竞争对手的水龙头?
Anthony Ha:这里的部分背景是,独立安全专家的报告和分析都表明,Anthropic的实际安全风险并不是那么独特。因此,这在很大程度上似乎源于特朗普政府的部分部门和Anthropic只是[相处得]不好。无论存在什么风险,这些事情都会爆发得不成比例,只是因为他们似乎无法互相进行民事电话通话。
如果你是另一家公司,一方面,也许这对你有利,因为你可以说,“好吧,我们只是不会让这些人生我们的气,我们可以做我们想做的事。”但这也不是一个很好的监管环境,只是[说]“天啊,我希望他们不要生我们的气。”
丽贝卡:一方面,这绝对让人感觉是报复性的——在政府将Anthropic标记为供应链风险之后,他们之间正在进行一场大诉讼,感觉白宫只是在寻找任何借口来打击Anthropic。我有这种感觉,不仅因为这是我最初的反应,还因为很多网络安全研究人员所说的。他们说这根本不应该触发出口管制[命令]。他们都签署了一封公开信,要求特朗普撤销该命令,他们表示,从美国的网络维护者手中撤回这些先进的网络安全能力实际上是危险的。Anthropic本身表示,在其他几种人工智能模型中也可能发现了一些相同的越狱行为。
讽刺的是,这就像:好吧,你只是暂停Anthropic以便其他人能够赶上Anthropic的位置吗?
但与此同时,我也看到了一些反应,[说]:Anthropic有点这样。他们说,“这对任何人来说都太危险了,但我们不是,我们是好人。”他们从嘴里说出来。在《神鬼寓言》上映前一周,他们[说],“嘿,我们需要放慢人工智能的速度,伙计们。这真的变得非常危险。”但随后,“这是我们有史以来最疯狂、最强大的模型,开始吧。”
安东尼:在某些方面,这感觉像是围绕人工智能的许多讨论的缩影,像萨姆·奥尔特曼和黄仁勋这样的人[说],“嘿,让我们试着降低温度。为什么每个人都对我们生气?”好吧,过去几年你基本上是在说你已经建造了这台上帝机器,它将夺走每个人的工作。人们对此感觉不佳并不令人震惊。
Anthropic谈论神话的方式尤其如此,他们说,“这是有史以来最强大的模型,向公众发布太危险了。”因此,在某种程度上,[你说]“好吧,好吧,我们会认真对待这个问题。这意味着将会有令人难以置信的严格审查。”
我确实想知道 - Anthropic似乎对此并不满意。我想小心不要夸大这对他们有何好处。但我们也发表了一些有关Ramp分析的报道,以强调这样一个事实:Anthropic和特朗普政府之间的最后一场大冲突至少在某些方面对公司有利。 Claude的下载量猛增。我想很多人之前可能认为ChatGPT是聊天机器人、人工智能助手,突然他们将Claude视为更负责任、更“抵抗”的机器人。
同样,[虽然][PH6]对此感到非常紧张,但这可能再次使他们的模型看起来更强大。
丽贝卡:当然。 “我们太危险了。”每个人都喜欢坏男孩,对吗?每个人都会说,“这是最强大的模型,连特朗普都这么说。当然,我必须亲自使用它。”