埃隆·马斯克的诉讼将OpenAI的安全记录放在显微镜下

埃隆·马斯克 (Elon Musk) 拆除OpenAI的法律努力可能取决于其营利性子公司如何增强或削弱前沿实验室的创始使命，即确保人类从通用人工智能中受益。

周四，加利福尼亚州奥克兰的一家联邦法院听取了一名前员工兼董事会成员的诉讼，称该公司将人工智能产品推向市场的努力损害了其对人工智能安全的承诺。

Rosie Campbell于2021年加入该公司的AGI准备团队，并于2024年团队解散后离开了OpenAI。另一个注重安全的团队，Super Alignment团队，也在同一时期被关闭。

“当我加入时，人们谈论通用人工智能和安全问题非常注重研究，而且很常见，”她作证说。 “随着时间的推移，它变得更像一个以产品为中心的组织。”

在交叉询问中，坎贝尔承认，实验室实现构建通用人工智能的目标可能需要大量资金，但她表示，在没有适当安全措施的情况下创建超级智能计算机模型不符合她最初加入的组织的使命。

Campbell指出，在该公司的部署安全委员会 (DSB) 对模型进行评估之前，Microsoft通过Bing搜索引擎在印度部署了该公司的GPT-4模型版本。她说，该模型本身并没有带来巨大的风险，但该公司需要“随着技术变得更加强大，树立强有力的先例。我们希望拥有良好的安全流程，我们知道这些流程得到了可靠的遵循。”

OpenAI的律师还让坎贝尔承认，在她的“推测意见”中，OpenAI的安全方法优于xAI，xAI是马斯克创立的人工智能公司，今年早些时候被SpaceX收购。