萨姆·奥尔特曼已准备好减速

OpenAICEOSam Altman表示，也许是时候“加快”人工智能的发展速度，以便世界为此做好准备。

Invest Like the Best播客的主持人帕特里克·奥肖内西 (Patrick O’Shaughnessy) 告诉我们：“我们可能必须加快人工智能的发展速度，以便为社会提供足够的时间来强化其中一些新的能力水平。”同时，他还“试图弄清楚我们如何以一种不会让任何人感觉被监管捕获、也不会让人感觉像是前沿实验室之间相互勾结的方式来做到这一点。”

Altman避免签署过去减缓人工智能进步的活动，称2023年提出类似放缓的公开信“忽略了我们需要暂停的大部分技术细微差别”。

显然，他对这个想法的态度软化了，部分原因是OpenAI的一个高级模型成功突破安全计算环境，并利用多个零日漏洞侵入在线模型数据库Hugging Face。

在播客中，OpenAI联合创始人称其为“极其科幻的网络事件……这是我发自内心感受到的第一起安全事件。”

OpenAI研究人员已暂停对该模型的训练，同时研究如何确保沙箱的安全。但奥特曼表示，随着模型变得越来越强大，“调整”其开发速度的需要可能成为安全部署的关键。

OpenAI和Anthropic的员工已经开始使用类似的语言散发请愿书。虽然模型安全性和一致性一直是人工智能世界关注的问题，但今年早些时候Anthropic强大的Mythos模型的到来已经将假设变成了现实世界的问题。

然而，该行业存在信任问题，并且具有挑战性的经济学问题使得主要参与者有动力以专家不同意的方式夸大其系统的危险性——例如，Anthropic的《神鬼寓言》模型是否应该被短暂禁止使用。同样，当中国制造的大型开放重量模型Kimi K3发布时，OpenAI战略未来负责人Dean W. Ball表示，它威胁到了前沿实验室的经济，使他们很难将安全担忧与经济利益分开。

“我认为很多关于安全问题的讨论都是有据的，而且很多都是关于人们确实想要集中权力，即使是有点潜意识的，”奥特曼沉思道，这句话读起来像是在挖苦他的竞争对手、AnthropicCEO达里奥·阿莫迪 (Dario Amodei)。 “我害怕这样一个世界，人们对人工智能的真正恐惧被用来表达，‘只有一小群人才能拥有它，因为它太危险了，只有他们理解它，但别担心，就像，他们会为我们所有人做出正确的决定。’我不相信这一点。”

尽管如此，OpenAI仍然反对为人工智能模型制定政府规则的努力，而是更喜欢采用行业主导的方法，即人工智能实验室将创建表面上独立的组织，以评估模型的安全性及其制造者的安全方法。这种监管方法和任何减缓人工智能发展的努力所面临的挑战将是让行业内的各个参与者达成共识，无论他们是美国的竞争对手前沿实验室还是中国的竞争对手。