马克·扎克伯格的人工智能宣言正是人们不喜欢人工智能的原因

周一，马克·扎克伯格发表了一份关于个人人工智能的6,500字宣言，主要是关于正在构建的“个人超级智能”系统Meta的可能性。帖子中的想法并不是全新的。两周前，这篇文章的一个版本发表在《华尔街日报》上，他之前在Meta财报电话会议上谈到了这些问题。但这可能是他分享的最详细的版本。

我见过它被描述为一篇反厄运的文章，但这并不完全正确。这更多地描述了为什么马克·扎克伯格个人对人工智能将改变社会的方式感到兴奋。然而，即使扎克伯格试图描绘丰富的超级智能将带来的美好未来，他也不断提醒我们它可能会出错的所有方式。

我发现人工智能也令人兴奋——这就是为什么我一直写它——但很多公众认为人工智能令人毛骨悚然和不愉快。因此，值得弄清楚这里到底发生了什么，以及为什么扎克伯格没有通过这样的文章给整个行业带来任何好处。

社交媒体仍然是科技行业的一个敏感话题，我们没有足够的空间来对人们对Facebook的每一项投诉的相对优点进行诉讼。可以这么说，Facebook作为一种产品，以及扎克伯格作为一个人，都不受美国公众的欢迎。最近的一项调查发现，64% 的美国人认为社交媒体对民主有害，而同样比例的人认为应该对其进行更严格的监管，这一数字跨越党派界限。就在这个周末，法院因该公司对儿童造成伤害而处以5.67亿美元的罚款。气氛很糟糕。

我提出这一点并不是暗示扎克伯格应该羞愧地退回荒野——但社交媒体的影响是我们现在对人工智能的社会影响如此焦虑的主要原因之一。无论股权与否，公众都不相信科技高管能够确保此类新技术对社会产生积极影响。本文没有承认这一点并试图赢回他们的信任，而是一遍又一遍地展示信任是如何失去的。

这篇文章的很大一部分致力于讨论关于情报的模糊概括——与扎克伯格和多西曾经对言论自由给出的模糊概括非常相似。这是一个例子：

我猜？我能想到一些利益冲突导致不良结果的例子，但我们先把这些放在一边。更奇怪的是，这是作为一个严肃的哲学结论提出的，而不是Meta推向市场的一种名为“个人智力”的特定产品。如果你已经倾向于不信任这个人，你可能会担心他们写下这一切是为了说服自己不会发生任何不好的事情。

当扎克伯格讲到具体的例子时，我的这种感觉变得更加强烈，其中许多例子与人工智能工具的使用方式惊人地脱节。例如，这是扎克伯格对教育领域人工智能的看法：

当然，扎克伯格描述的产品已经存在：这是一个像ChatGPT、Claude和Gemini这样的消费者聊天机器人。如果你想学习某个主题，这些工具确实很有帮助，但它们在教育中使用的主要方式是避免学习，因为你的个性化导师可以做你的作业并写你指定的论文——而且因为没有强大的水印系统，老师无法确定哪些论文是用人工智能生成的。

这是人工智能危害的一个相当低风险的例子，但它是现在正在发生的真实的事情。有时，你设计一项技术是为了做好事，但它会产生意想不到的后果，使事情变得更糟。世界上最有权势的人之一拒绝承认这一事实可能会让人感到紧张，这是可以理解的！

扎克伯格还举了一个例子来说明人工智能如何使法律体系变得更好：

再说一次，这是一个加载的例子。当然，获得合法的人工智能可能会带来一个更加公正的社会，但它也可能会给已经存在的官僚地狱增添更多的复杂性。或者，它可能会引发新一波无理取闹的诉讼当事人，这些诉讼当事人只会用相当于垃圾邮件的法律行为阻碍工作。对这些事情很难感到平静，扎克伯格不担心的事实让我更担心。

在其他地方，甚至对Meta现有商业实践的描述也开始呈现出奇怪的抽象特征。例如，扎克伯格是这样描述Meta对免费增值模式的承诺的：

总的来说，我同意他在这里所说的一切。扎克伯格认为访问是一个问题是正确的，而且免费增值模式允许比要求每个人预先为计算付费更多的访问，这是正确的。现货计算的动态市场已经存在，所以他并不是在想象完全超出常规的东西。但每个消费者人工智能产品都将最终用户与他们所使用的计算的现货价格隔离开来，这是有原因的。峰时定价是一种糟糕的用户体验，尤其是当它部署在您实际工作所依赖的工具上时。

再次，我必须假设扎克伯格知道这一点，并且他实际上并不打算通过动态拍卖来设定代币价格。但事实上，我现在比读这篇文章之前更不确定了。

有更好的方式来谈论这些事情。尽管萨姆·奥尔特曼和达里奥·阿莫迪有很多缺点，但他们在直接与公众沟通时做得相当不错。他们所做的正是扎克伯格在这里所抵制的：承认人工智能的危险，强调自己的预防措施，并试图让听众相信他们是可以信任的。

这种沟通只能做这么多。有时（尤其是最近），防护措施失效，整个企业的内在危险就暴露无遗。但如果没有某种形式的信任建设，该行业可能并不总是能够在这些失败中幸存下来。