人工智能世界正变得“疯狂”

周五，Claude代码创建者Boris Cherny出现在Meta的 @Scale会议上，令人惊讶的是，观众提出的第一个问题是关于循环的。

“循环是下一个炒作周期吗？”提问者问道，“还是它们真的存在？”

切尔尼的回答斩钉截铁：“是的，它们是真的。”

“两年前，我们手工编写源代码。我们开始转变，让代理编写代码。现在我们正在过渡到代理提示代理然后编写代码，”他继续说道。 “尽管从源代码到代理的步骤是巨大的，但循环也同样重要，也是巨大的一步。”

在随后的演讲中（在上面发布的YouTube视频的32:00左右），Cherny详细介绍了他在自己的作品中不断运行的循环。一个代理不断寻找改进代码架构的方法，而另一个代理则寻找可以统一的重复抽象。他们像其他编码员一样提交拉取请求，并且由于代码不断变化，因此他们永远不会停止运行。

这是一个强有力的想法，尤其是背后有像切尔尼这样重要的人物。随着向代理人工智能的转变，大多数用户的重点是尽可能管理他们的代理：建立明确的目标，检查离散的进度单位，并且不要让它们偏离提示太远。该循环更进一步，授权一群代理在后台连续无休止地工作。人们对人工智能抱有很大的信任——但随着模型快速变得更好，这可能是让人工智能处理实际工作的下一步。

首先要认识到这并不是什么新鲜事。递归循环——为了重复某个动作而调用自身的函数，以及停止循环的条件——是计算机科学入门课程的支柱。这些循环遵循非确定性逻辑——也就是说，它是一个子代理，选择何时停止循环而不是明确的条件——但相同的基本方法正在发挥作用。一旦程序员开始使用人工智能来完成任务，某种版本的递归循环（人工智能监督人工智能）就必然会出现。

与经典计算不同，代理循环可能非常简单。最主流的技巧之一是Ralph Loop（以Ralph Wiggum命名），它基本上总结了模型已完成的所有工作，并询问它是否完成了目标。这是一种处理人工智能模型因运行时间过长而迷失的方法——本质上是来回弹跳模型，直到任务完成。

考虑循环的另一种方法是作为更多测试时计算的总体推动的一部分。正如OpenAI研究员Noam Brown本月早些时候观察到的那样，如果你向当代模型投入足够的计算，它们几乎可以解决任何问题。这意味着确保问题得到解决的一种方法是不断地对其进行计算，直到问题完成。对于诸如改进代码库之类的爬山问题尤其如此，模型可以不断进行增量改进，直到达到给定的阈值。或者，就像Cherny的例子一样，只要有计算资源可用于，它就可以不断进行增量改进。

如果这听起来很昂贵，那就应该如此。就像之前的代理人工智能一样，人工智能循环消耗代币的速度比简单的问答聊天机器人要快得多——而且因为重点是保持循环一直运行，所以你可以花多少钱没有上限。这对于最终从事代币销售业务的Anthropic来说很好，但对于其他人来说，这可能是一种昂贵的工作方式。

尽管如此，据代理循环试图解决的问题，以及允许监督代币支出、漂移和其他经典人工智能问题的正确设置，其好处可能足以超过成本。