埃隆·马斯克 (Elon Musk) 在OpenAI审判中唯一的人工智能专家证人担心AGI军备竞赛

我们什么时候才能认真对待人工智能的毁灭者？

That’s a key subtext of Elon Musk’s attempt to shut down OpenAI’s for-profit AI business. His attorneys argue that the organization was set up as a charity focused on AI safety and lost its way in pursuit of lucre.为了证明这一点，他们引用了该组织创始人的旧电子邮件和声明，称需要一个热心公益的力量来制衡Google DeepMind。

今天，他们传唤了唯一一位直接谈论人工智能技术的专家证人：斯图尔特·拉塞尔 (Stuart Russell)，他是加州大学伯克利分校计算机科学教授，研究人工智能数十年。他的工作是提供人工智能的背景知识，并证明这项技术足够危险，值得担心。

拉塞尔于2023年3月签署了一封公开信，呼吁暂停人工智能研究六个月。矛盾的一个迹象是，马斯克还签署了同一封信，尽管他正在初创公司自己的营利性人工智能实验室xAI。

拉塞尔告诉陪审员和法官伊冯·冈萨雷斯·罗杰斯，人工智能的发展存在多种风险，从网络安全威胁到失调问题，以及开发通用人工智能（AGI）的赢家通吃性质。最终，他表示，追求通用人工智能和安全之间存在着紧张关系。

在OpenAI律师的反对导致法官限制拉塞尔的证词后，拉塞尔对不受约束的人工智能的生存威胁的更大担忧没有在公开法庭上表达出来。但拉塞尔长期以来一直批评全球前沿实验室竞相率先实现通用人工智能所引发的军备竞赛，并呼吁各国政府更严格地监管该领域。

OpenAI的律师通过盘问证实Russell并未直接评估该组织的公司结构或其具体安全政策。