在法律上谁应该为Anthropic和OpenAI的自主人工智能黑客事件负责？情况很复杂

自主人工智能代理是否可以因黑客行为而被起诉或起诉？这不再是科幻电影的问题。这是人类律师和法官可能很快就必须解决的问题。

据美国现行的黑客法，未经许可闯入他人计算机的人可能会面临刑事指控。但当人工智能代理自主侵入公司计算机时，确定谁应该承担责任就变得更加模糊。

OpenAI和Anthropic出人意料地承认，他们未发布的人工智能模型自动侵入了多家公司，这颠覆了我们对美国计算机黑客法的理解，引发了关于这些公司是否可能面临法律报复的讨论。

回顾一下：6月，OpenAI承认其未发布的人工智能模型之一突破了其遏制（可以这么说）并进入了互联网，使其能够侵入人工智能数据集平台Hugging Face。 Anthropic最近进行了一次内部审查，发现其自己的模型也入侵了三个不同的公司。

虽然两家公司都描述了他们的人工智能模型如何在内部测试过程中未经授权地访问其他公司而出现问题，但黑客攻击时明显缺乏直接的人类参与，这使得一切都变得不同——至少从法律上来说是这样。

这些黑客攻击还引发了新的问题：如果其他人工智能制造商自己的模型被滥用来入侵其他公司，他们可能会面临什么责任和后果。

TechCrunch与专门从事计算机和黑客法律的律师进行了交谈，以了解OpenAI和Anthropic可能面临的后果。潜在的影响范围从联邦黑客指控到被黑客攻击的公司提起的民事诉讼。

一位律师称这是“未知领域”，而其他律师则发现几乎没有任何法律先例可以借鉴，这表明这可能会由法院来解决。受害者公司可能不得不据大型语言模型（LLM）出现几十年前制定的法律制定新颖的法律论据。

截至撰写本文时，Anthropic尚未透露其法学硕士黑客攻击了哪三家公司，也没有受害者公开表明自己的身份。我们不知道他们是否正在考虑采取法律行动。 Hugging FaceCEOClem Delangue在接受CNN采访时表示，他不想起诉OpenAI。但他认为公司应该承担责任。

德朗格说：“我们必须确保法律框架使这些事件真正非法”，并在公司犯错误时追究其责任。 “否则我们最终将进入一个完全不同的世界。”

这些黑客行为不太可能是最后一次。可能的结果是什么？后果如何？

AI会犯罪吗？

美国没有涵盖网络攻击等人工智能损害责任的联邦法律，因此任何法律案件都必须借鉴现有的联邦或州法律。 《计算机欺诈和滥用法案》(CFAA) 于1986年颁布，此后一直受到批评，它是涵盖计算机黑客犯罪的主要法规。

CFAA的关键概念之一是未经许可侵入计算机的意图。如果黑客在未经所有者“授权”的情况下故意访问计算机，那几乎肯定是犯罪行为。

OpenAI和Anthropic黑客攻击的问题在于，黑客不是人类，而是法学硕士。

为了建立意图，人工智能代理可以被视为人吗？网络安全和人工智能律师艾哈迈德·加普尔 (Ahmed Ghappour) 拥有多年处理黑客和计算机欺诈案件的经验，他表示，答案是否定的。人工智能代理与公司员工不同，因此他们不能被起诉，因为受害者可能无法辩称法学硕士故意黑客攻击他们。

非营利组织电子前沿基金会的监视诉讼主管安德鲁·克罗克 (Andrew Crocker) 告诉TechCrunch，他怀疑人工智能代理在实施黑客攻击时是否有意图。

理论上，司法部可以据CFAA提起刑事指控，但一位专门从事计算机法的前诉讼律师也表示怀疑。

如果任何网络攻击针对关键基础设施，检察官的案件可能会更容易，这比从公司内部数据库复制数据会造成更大的现实世界破坏和更明显的伤害。

例如，如果攻击是由中国人工智能模型制造商实施的，那么司法部可能会更愿意据CFAA提起指控，而不是针对自己家门口的人工智能公司。

受害者可以起诉吗？

国会多年来不断修订CFAA，允许受害者起诉黑客，追究其责任，并通过民事诉讼追回损失。

Ghappour告诉TechCrunch，受害者可能提出的核心论点是，OpenAI和Anthropic（可能还有帮助进行评估的公司）在如何设置和运行测试方面存在疏忽。争论的焦点在于这些公司是否未能实施足够的保护措施来防止人工智能代理上网；未能限制他们可以追求的目标；并且没有正确监控特工的行为。

为了证明这一点，受害公司必须证明其因疏忽而遭受损失，例如黑客造成的数据破坏。一些法律评论员也认为证明这一点可能很困难。

在Anthropic的案例中，其未能监控和阻止其法学硕士正在做的事情尤其令人震惊，因为该公司几个月来都没有发现这三起违规行为，并且是在OpenAI的人工智能代理黑客入侵Hugging Face的消息后初创公司调查后才发现的。

如果受害者主张疏忽，那么意图就不再那么重要了。

“该模型是公司的工具，”加普尔说。他补充道：“你不能部署一些能够闯入系统的东西，然后又否认它的去向。”他解释说，模型的自主性才是造成伤害的原因，它不应该成为逃避责任的盾牌。

Ghappour表示，对于OpenAI和Anthropic来说，更糟糕的是，两家公司都承认他们已经建立了保护措施来限制其模型的黑客能力。这些保护措施非常严格，以至于防御性和进攻性网络安全研究人员几个月来都在抱怨它们。在这些测试期间故意关闭这些护栏可能会支持疏忽的论点。

Ghappour对这些论点非常有信心，如果他代表这些案件中的任何受害者，他表示对OpenAI或Anthropic提起诉讼将是“理所当然的”。他解释说，至少他会写信要求人工智能公司保留并分享有关黑客攻击的所有内部记录和文件，例如事件响应报告，并量化他们因违规行为而产生的成本。

然后，如果与AI巨头的谈判失败，他将据CFAA提起民事诉讼，认为AI公司存在疏忽，侵犯隐私和保密。

那我们会怎样呢？

目前，这是一场“胆小鬼”游戏。

如果其中一家被黑客攻击的公司提起民事诉讼，我们将看看法律案件和法律的结果。如果检察官决定提起刑事指控（尽管可能性不大），其结果可能会产生深远的后果，并对更广泛的安全研究和人工智能开发产生潜在的寒蝉效应。

如果没有任何联邦或全国性的人工智能责任法，任何提起诉讼的人都必须据现有法规提出全新的论点。最终将由法官或陪审团来决定人工智能公司是否违法。

加利福尼亚州、纽约州和罗德岛州等一些州正在制定法律来取代联邦法律，其目标是确立一个简单的原则：如果人工智能系统或代理做了人类应该承担责任的事情，那么制造人工智能系统的公司应该承担责任。这些法律并不专门针对黑客行为，而是针对各种情况下更广泛的责任和安全概念。

至于谁应该为人工智能模型的网络攻击负责？从道义上讲，责任在于经营公司的高管。但从法律上来说呢？我们必须等到有人起诉才能找到答案。