跟踪受害者起诉OpenAI，声称ChatGPT助长了施虐者的妄想并忽视了她的警告

据旧金山县加州高等法院提起的一项新诉讼，经过与ChatGPT几个月的交谈，一位53岁的硅谷企业家确信他已经找到了治疗睡眠呼吸暂停的方法，并且有权势的人正在追捕他。据称，他随后使用该工具跟踪和骚扰他的前女友。

据TechCrunch独家获悉，现在这位前女友正在起诉OpenAI，指控该公司的技术加速了对她的骚扰。她声称OpenAI忽视了用户对他人构成威胁的三个单独警告，其中包括一个内部标记，将其帐户活动归类为涉及造成大规模伤亡的武器。

为了保护自己的身份，原告被称为“Jane Doe”，她正在提起诉讼，要求获得惩罚性赔偿。她还在周五提交了一份临时限制令，要求法院强制OpenAI封锁该用户的帐户，阻止他创建新帐户，在他尝试访问ChatGPT时通知她，并保留他完整的聊天记录以供发现。

据Doe的律师称，OpenAI已同意暂停该用户的帐户，但拒绝了其余的操作。他们表示，该公司隐瞒了有关伤害Doe和用户可能与ChatGPT讨论过的其他潜在受害者的具体计划的信息。

这起诉讼是在人们越来越担心阿谀奉承的人工智能系统在现实世界中带来的风险之际提出的。 GPT-4o，这个案例和许多其他案例中引用的模型，已于二月份从ChatGPT中退役。

此案由Edelson PC提起，该公司是非正常死亡诉讼的幕后公司，涉及青少年亚当·雷恩 (Adam Raine)，他在与ChatGPT交谈数月后自杀身亡；乔纳森·加瓦拉斯 (Jonathan Gavalas) 的家人称，Google的Gemini在他死前助长了他的妄想和潜在的大规模伤亡事件。首席律师杰伊·埃德尔森警告说，人工智能引发的精神病正在从个人伤害升级为大规模伤亡事件。

这种法律压力现在直接与OpenAI的立法策略相冲突：该公司支持伊利诺伊州的一项法案，该法案将保护人工智能实验室免于承担责任，即使在涉及大规模死亡或灾难性财务损失的情况下也是如此。