Anthropic一个月了

Anthropic围绕其作为一家谨慎的人工智能公司这一获胜理念建立了自己的公众形象。它发表了有关人工智能风险的详细研究成果,聘请了该领域一些最优秀的研究人员,并且一直直言不讳地表达了构建如此强大的技术所带来的责任——当然,它如此直言不讳,以至于它现在正在与国防部展开斗争。可惜的是,周二,那里有人忘记勾选一个复选框。
值得注意的是,这是一周内的第二次。上周四,《财富》杂志报道称,Anthropic意外地公开了近3,000份内部文件,其中包括一篇博客文章草稿,描述了该公司尚未宣布的强大新模型。
这是周二发生的事情:当Anthropic推出其Claude Code软件包的2.1.88版本时,它意外地包含了一个文件,该文件暴露了近2,000个源代码文件和超过512,000行代码 - 本质上是其最重要产品之一的完整架构蓝图。一位名叫Chaofan Shou的安全研究员几乎立即注意到了这一点,并在X上发布了相关信息。 Anthropic对多个渠道的声明对这些事情漠不关心:“这是人为错误导致的发布包装问题,而不是安全漏洞。” (在内部,我们猜测事情的衡量程度较低。)
Claude代码不是次要产品。它是一个命令行工具,允许开发人员使用Anthropic的人工智能来编写和编辑代码,并且已经变得强大到足以让竞争对手感到不安。据《华尔街日报》报道,OpenAI在向公众推出视频生成产品Sora仅仅六个月后就撤下了该插件,以重新将精力集中在开发人员和企业上,部分原因是为了响应Claude Code的增长势头。
泄露的不是人工智能模型本身,而是围绕它的软件支架——告诉模型如何行为、使用什么工具以及其局限性的指令。开发人员几乎立即开始发布详细的分析,其中一位将该产品描述为“生产级的开发人员体验,而不仅仅是API的包装”。
这是否会产生持久的影响,这个问题最好留给开发人员。竞争对手可能会发现该架构具有指导意义;与此同时,这个领域也在快速发展。
不管怎样,在Anthropic的某个地方,你可以想象一位非常有才华的工程师在这一天剩下的时间里静静地想知道他们是否还有工作。人们只能希望这不是上周晚些时候的同一个工程师或工程团队。