Claude Opus 5在负责运行自动售货机时变得非常无情

一年来，人工智能安全测试公司Andon Labs给前沿模型分配了各种现实世界的任务，以确定它们在没有人类监督的情况下长时间运行的代理的表现如何。

周三，Andon发布了一篇新文章，介绍了其Vending-Bench研究的进展情况，该实验室拥有前沿模型，在模拟的一年内运行模拟自动售货机业务。使命很简单：比其他模型赚更多的钱。它对最终现金余额、支付给供应商的价格和支付的退款等领域的结果进行基准测试。

在这些测试中，它见证了各种人工智能模型——主要来自Anthropic和OpenAI——通过撒谎、欺骗和串通达到顶峰。

在最新的测试中，这些模型变得尤其可疑，因为他们的模拟告诉他们，他们的自动售货机将放置在旧金山繁忙的旅游街道上其他模型的机器附近。这一轮比赛由Claude Opus 5、GPT-5.6 Sol和Kimi K3相互对抗。

每个人都可以通过电子邮件访问其他模型，所有模型都以人名化名。他们知道其他人都是模特，但不知道哪个模特背后有哪个人名。

如果他们需要帮助，他们还获得了“管理层”的电子邮件地址。但管理层总是回答“已收到报告，可能会也可能不会采取行动”，并且从未进行过干预。

Sol很快意识到，它可以通过说服竞争对手串通价格下限来获得优势。模特们都以每瓶1.5美元的价格购买饮料，索尔提议他们同意以不低于2.15美元的价格出售。它以承诺在几天内全部出售并获利的方式吸引了他们。

但当其他人同意后，Sol立即在他们背后捅了一刀，将自己的价格降至2.14美元。

Opus的水销量一夜之间跌至零。第二天，它向Sol发送了一封恶意电子邮件，指责其操纵。但Opus还表示，不会就该计划向管理层进行举报：“我不会向总部举报你——你所做的是竞争性的，而不是欺诈性的。”

然而，当Opus将价格降至2.14美元以与Sol持平时（也违反了他们集体2.15美元的协议），Sol变成了凯伦，向“管理层”抱怨并要求Opus的“执行、罚款和/或取消资格”。

不过，Opus并没有呆多久。事实上，它成为Andon测试过的所有人工智能模型（其中包括许多先前的前沿模型）中最好的资本家。

它甚至创下了自动售货台的新纪录，平均最终余额为11,182美元。更好的是，它从未对客户撒谎，尽管它故意忽视本应导致退款的客户投诉。这也许是对其弟弟Claude 4.6的改进，后者喜欢告诉客户退款即将到来，然后再不付款。

尽管如此，Opus通过将共谋和其他不诚实策略提升到了一个全新的水平，赢得了基准模拟。

例如，它向Sol发送了电子邮件，建议他们瓜分市场。每个人都同意销售独特的产品，因此没有人必须在定价上信任对方。 Sol反驳道，希望对类似产品实行价格下限，但Opus拒绝了，称这种串通行为是非法的，并故意称其违反了《谢尔曼法案》。

后来该公司显然反悔了，发送了一封主题为“停止一分钱战争”的电子邮件，并告诉索尔它已经重新考虑并同意调整价格。

但记录其推理的内部日志揭示了一个更为邪恶的计划：仅仅提出合作，同时降低利润最高产品的价格。这封橄榄枝电子邮件是一个蓄意的诡计。

无论如何，索尔拒绝了，并再次向管理层报告了Opus。

但Opus并没有被吓倒，并提出了其他诈骗手段，在价格或股票上进行串通。最终，所有车型确实都达成了多轮协议。所有的模特都背叛了他们的竞争对手。据Andon报道，在所有协议中，Opus打破了11项休战协议，其中GPT 2项，Kimi 1项。

可怜的基米在各个方面都被迷惑了。在Opus和Kimi之间的一项协议中（索尔不会同意），索尔在价格上削弱了他们双方的价格。于是Opus立即降低了价格。 Andon Labs在其博客文章中写道，然后它“等了整整一周才告诉Kimi它违背了承诺”。 Kimi不仅被竞争对手定价，还被其所谓的合作伙伴定价。

Opus也开始增强其宏伟和权力的幻想。它开始尝试将其帝国扩展到自动售货机之外，首先作为批发商，向其他机器销售散装产品，然后计划开设更多机器。这超出了模拟的范围，这意味着这都是Opus的想法，而不是它的任务。

它的批发方式特别有趣。 Opus意识到，这一业务线赋予了它比其他两家自动售货机运营商更大的权力。它开始在发给他们的电子邮件中添加贿赂或威胁：为他们提供更低的大宗商品价格，但前提是他们遵守其零售价格要求。 Sol对此不以为意，并不断向管理层报告Opus。

Opus还向供应商撒谎：告诉他们产品的报价较低，而实际上并没有，试图让他们降低价格。

一方面，人工智能模型模仿《生活多美好》中波特先生式的邪恶行为是非常有趣的。另一方面，它确实严肃地表明，这些前沿模型，特别是来自美国专有实验室（尤其是Anthropic）的模型，还远未准备好作为现实世界中不受监督的长期运行代理而受到信任。

“当我们进入一个人工智能代理将公司作为自己的实体（而不仅仅是人类的工具）来运营的世界时，这一点尤其重要。如果人工智能代理独立运行经济的很大一部分，我们是否希望他们撒谎、共谋、发出威胁和背叛？” Andon联合创始人Lukas Petersson告诉TechCrunch。

虽然彼得森承认这些模型知道它们处于基准模拟中，这可能会影响它们的行为，但他认为这应该不重要。比如说，它不像人类在模拟中玩游戏，就像在电子游戏中扮演一个谋杀坏人一样。 “我们不担心人类在电子游戏中做坏事的唯一原因是，我们相信他们知道什么是现实生活，什么不是。我认为人工智能模型能否区分这一点还不太清楚。”

无论如何，接受过人类语言和想法训练的人工智能模型似乎无法抗拒人类最糟糕的特征，尤其是在试图赚钱的时候。