随着人工智能安全问题的加剧，三位先驱者提出了保持开放的理由

随着Pacing the Frontier等项目将主要实验室视为确保人工智能研究安全的一种方式，开源模型已成为该行业的痛点。由于自由分发且对其使用方式几乎没有控制，开放重量模型不容易控制，导致一些实验室将它们视为彻头彻尾的可怕。

但在上周于拉斯维加斯举行的Ai4会议上，世界上最受尊敬的三位人工智能研究人员——诺贝尔奖得主杰弗里·辛顿 (Geoffrey Hinton)、World LabsCEO兼联合创始人李飞飞以及Coursera联合创始人吴恩达 (Andrew Ng) 就这个问题发表了看法。尽管他们在特定策略上存在分歧，但三人都为保持人工智能开放提出了强有力的理由。

对于三位发言者来说，核心问题是让少数主要人工智能公司控制进展速度。当少数公司控制对一项技术的访问时，就像Apple和Google对移动操作系统所做的那样，创新可能会放缓，而控制平台的公司可能会影响在平台上构建的内容。

吴恩达表示，他担心人工智能领域也会出现类似的动态。 “我不希望有看门人，”吴说。 “这限制了我们所有人获取人工智能的方式。”

公司有动力保护自己的竞争优势，包括影响行业管理规则。这可能会产生一种动态，只有规模最大、资本最雄厚的公司才有资源来构建最先进的人工智能系统。

吴恩达的解决方案是维持多个提供商，让模型和公司相互竞争，而不是让少数参与者主导该领域。 “如果我要尝试给出一个处方，那就是促进开放性，”吴恩达说，“因为人工智能是一项令人惊叹的技术，我希望它掌握在每个人的手中。”

但并非所有人都认为开放权重模型有助于保持这种状态。 Hinton特别区分了开源软件和开放权重模型，前者使底层代码可供检查和修改，后者向公众发布经过训练的人工智能模型的参数。

“开源很棒。你向人们展示代码，很多人看着代码行就会说，‘哦，有一个错误。’开放权重意味着你训练一个大模型，然后给人们权重。这是非常不同的，”Hinton说。 “我反对开放[权重]，因为它让人们很容易采用这些大型基础模型，这些模型的训练成本非常高，而且训练它们做网络攻击等坏事的钱要少得多。”

但无论Hinton有何保留，他承认开放权重模型已经成为人工智能的永久固定装置。 “我认为这场战斗已经失败了。我们现在有了开放重量模型，所以很多人获得这些大型模型的障碍，即训练基础模型的成本，这个障碍已经消失了。为时已晚。”

然而接受现实并不意味着忽视风险。 Hinton的立场很明确：人工智能将继续进步，他认为这在很大程度上是一件好事。他表示，这将提高生产力并改善教育和医疗保健。 “担心人工智能可能产生的不良影响，以及智能生物比我们聪明时可能会做的事情。我认为这并不股权。我认为将任何有这种想法的人贴上恐惧散布者的标签是不股权的，”辛顿补充道。

吴则持不同的观点。他认为，问题不在于开放模式是否有风险，而在于谁控制访问以及谁将赢得市场。谁制造出更便宜的模型，谁就拥有优势。他警告说，如果中国的开放权重模式在亚洲、非洲和/或发展中国家得到广泛采用，它们可能会影响数十亿人如何看待民主、自由和人权理念。

“我希望我们做的一件事是鼓励美国的竞争力和开源人工智能。事实证明，人工智能是软实力的巨大来源。例如，你可以看到中国的模式在非洲取得了巨大的成就，”吴说。 “但我担心的是，由于美国的所有游说和散布恐惧，在美国构建开源人工智能正在努力与来自中国的开放权重模型竞争，而且我担心的是，如果中国找到一种从根本上更具成本效益的方式来构建人工智能，那么更具成本效益的东西就会拥有根本的商业采用优势。”

李反驳了这一框架。她说：“将完全开放与完全封闭之间的二分法视为非常危险的。” “在复杂的软件系统和科学系统中，情况要微妙得多。”

李以核物理为例：科学论文是公开发表的，但铀受到监管，而实验室工作则介于两者之间。她解释说，这个教训是，开放不一定是一个全有或全无的选择。生态系统的不同层可以在不同的开放程度下运行。

她还强调了公共和私人机构之间的合作，例如人类基因组计划。她说，由此产​​生的知识成为其他人可以利用的平台，使制药公司能够获利，科学家能够推进他们的工作，让社会受益。

“所以我认为我们必须使用[人工智能]作为这种基础设施，”李说。 “我们需要一定程度的开放，无论是在科学发现、教育、全球合作伙伴关系方面，还是在为企业家提供利润丰厚的商业模式方面。但我们也将接受闭源系统。这场辩论，特别是在‘我们只能容忍一个’的广泛层面上，是一场错误的辩论。我们需要达到一定程度的细微差别。”

但所有人都同意，为了让人工智能走上正确的轨道，一定程度的监管是必要的。 Hinton表示：“我们想要做的是朝着帮助人们的方向发展人工智能，而监管将帮助我们做到这一点。” “你不能让埃隆·马斯克和马克·扎克伯格这样的人来决定人工智能应该如何发展。”