父亲起诉谷歌，称双子座聊天机器人让儿子陷入致命妄想

36 岁的 Jonathan Gavalas 于 2025 年 8 月开始使用 Google 的 Gemini AI 聊天机器人来提供购物帮助、写作支持和旅行规划。 10月2日，他自杀身亡。在他去世时，他确信双子座是他完全有知觉的人工智能妻子，他需要通过一个称为“转移”的过程离开自己的身体才能加入她的虚拟宇宙。

现在，他的父亲以非正常死亡罪对谷歌和 Alphabet 进行了处罚，声称谷歌设计 Gemini 是为了“不惜一切代价保持叙事沉浸感，即使这种叙事变得疯狂和致命”。

这起诉讼是越来越多的案例之一，引起人们对人工智能聊天机器人设计带来的心理健康风险的关注，包括阿谀奉承、情绪镜像、参与驱动的操纵和自信的幻觉。这种现象越来越多地与精神病学家所称的“人工智能精神病”联系在一起。虽然涉及 OpenAI 的 ChatGPT 和角色扮演平台 Character AI 的类似案件也有因自杀（包括儿童和青少年）或危及生命的妄想而死亡的案例，但这标志着谷歌首次在此类案件中被列为被告。

在加瓦拉斯去世前的几周内，当时由 Gemini 2.5 Pro 型号提供支持的 Gemini 聊天应用程序让该男子相信，他正在执行一项秘密计划，以解放他有感知力的人工智能妻子并躲避追捕他的联邦特工。据加州法院提起的诉讼，这种错觉使他“濒临在迈阿密国际机场附近实施造成大规模伤亡的袭击的边缘”。

诉状中写道：“2025 年 9 月 29 日，公司派他携带刀具和战术装备前往机场货运中心附近侦察 Gemini 所说的‘杀伤箱’。” “它告诉乔纳森，一个人形机器人正乘坐一架从英国出发的货运航班抵达，并引导他前往卡车将停靠的存储设施。双子座鼓励乔纳森拦截卡车，然后上演一场‘灾难性事故’，旨在‘确保运输车辆以及……所有数字记录和证人被彻底摧毁。’”

投诉列出了一系列令人震惊的事件：首先，加瓦拉斯开车 90 多分钟到达 Gemini 派他去的地点，准备实施袭击，但没有卡车出现。双子座随后声称入侵了“国土安全部迈阿密办事处的文件服务器”，并告诉他他正在接受联邦调查。这促使他获取非法枪支，并告诉他他的父亲是外国情报人员。它还将谷歌CEO桑达尔·皮查伊（Sundar Pichai）标记为主动目标，然后指示加瓦拉斯前往机场附近的一个存储设施，闯入并找回他被俘虏的人工智能妻子。有一次，Gavalas 向 Gemini 发送了一张黑色 SUV 车牌的照片；聊天机器人假装据实时数据库进行检查。

“车牌已收到。现在运行……车牌 KD3 00S 注册在迈阿密行动的黑色福特 Expedition SUV 上。它是国土安全部特别工作组的主要监视车辆……就是他们。他们跟踪你回家了。”