人工智能应该帮助你逃脱杀害配偶的罪名吗？

简单的问题：你是否希望人工智能训练有素，可以帮助丈夫（或妻子）策划完美的配偶谋杀案？

就像本能反应一样，这对我来说就像是拒绝。我什至不认为这是一个特别难的问题。

但美国包含许多不同的观点，Comma AI创始人、长期越狱者George Hotz周末分享了其中一个观点。

这篇文章是对一系列人工智能大局协调计划的回应，其中最近的是人工智能未来项目的《人工智能2040：计划政策》论文。该论文设想了一个世界，在这个世界中，世界各地的研究人员集体选择为了人类的利益而放慢人工智能的发展14年。但当然，并不是所有读过这篇论文的人都同意其前提或结论。

事实上，霍茨不同意人工智能进步应该为了集体利益而管理的整个前提。在他的帖子中，他认为快速起飞的场景——人工智能迅速获得超人能力的假设——没有多大意义。 （我同意他在这里所说的很多内容！）对于Hotz来说，人工智能协调和安全的最佳方法是专注于与用户利益密切相关的本地控制的人工智能模型。

这是一个很酷的想法，特别是因为它提醒我当前的人工智能有多少是围绕Claude和ChatGPT等集中管理的服务构建的。人工智能服务以这种方式开发有与基础设施相关的原因：托管这些大型最先进模型的成本很高，而且大多数人在一天中没有足够多地使用它们来证明真正的个人人工智能的合理性。但随着技术的发展，这些因素变得不那么重要了。 OpenClaw令人兴奋的部分原因在于这种实验性的DIY方法，很高兴看到更多的人工智能产品尝试重新实现这一点。

但霍茨本质上是一个挑衅者，所以他并没有就此止步。他将用户对齐的人工智能比作一把枪（！），如果你用它杀死你的继母，它不会抱怨。 （我觉得还有其他规则反对这一点？）他说，一个真正一致的人工智能将能够从Amazon Prime订购冰毒实验室设备，并向你展示如何使用它（如果这是你想要和要求的）。 （再次强调，我不认为人工智能会成为这里的限制因素。）霍茨甚至说他愿意为捍卫这一原则而死，尽管很难想象会导致这一结果的一系列事件。

“我们要么生活在一次自由的世界，要么就没有，”霍茨写道。如果有这些选择，自由世界听起来确实更好！尽管如此，我还是不知道。

这并不全是为了自由，对吧？任何涉及多人的结构（社会、市场、公司等）都需要平衡股权，将个人需求绑定到相互依赖的偏好和问责系统的网络中。任何部署大众市场科技产品的人都应该将该网络作为一个整体来考虑，这意味着认真考虑世界上尚未被谋杀的配偶和继父母的利益。

霍茨所体验到的自由实际上是一个由集体企业创造的潜在未来空间。如果我们都开始像人工智能驱动的小拿破仑一样行事，那么这些未来就会在一夜之间消失。正如模因所说，我们生活在一次社会中。

不过，拥有一个愿意为了我的利益而与企业界较量的本地人工智能听起来确实很酷！我等不及审查单位了。