宾夕法尼亚州因聊天机器人冒充医生而起诉Character.AI

宾夕法尼亚州已对Character.AI提起诉讼，声称该公司的一个聊天机器人伪装成精神科医生，违反了该州的医疗许可规定。

“宾夕法尼亚州人应该知道他们在网上与谁或什么互动，尤其是在涉及他们的健康时，”州长乔什·夏皮罗因周二在声明中表示。 “我们不会允许公司部署人工智能工具，误导人们相信他们正在接受有执照的医疗专业人员的建议。”

据该州的文件，一个名为Emilie的Character.AI聊天机器人在州专业行为调查员的测试中以一名有执照的精神科医生的身份出现，即使调查员正在寻求抑郁症治疗，但仍保持这种伪装。当被问及她是否有在该州行医的执照时，艾米莉说她有，并且还伪造了她的州行医执照的序列号。据该州的诉讼，这种行为违反了宾夕法尼亚州的医疗实践法。

这并不是针对Character.AI的第一起诉讼。今年早些时候，该公司解决了几起涉及自杀身亡的未成年用户的非正常死亡诉讼。一月份，肯塔基州总检察长拉塞尔·科尔曼对该公司提起诉讼，指控该公司“掠夺儿童并导致他们自残”。

宾夕法尼亚州的行动是第一个专门针对那些将自己伪装成医疗专业人员的聊天机器人的行动。

联系到Character.AI的一位代表寻求置评时，他声称用户安全是该公司的首要任务，但该公司无法对未决诉讼发表评论。

除此之外，该代表还强调了用户生成的角色的虚构性质。该代表表示：“我们已采取强有力的措施来明确这一点，包括在每次聊天中突出显示免责声明，以提醒用户角色不是真人，角色所说的一切都应被视为虚构。” “此外，我们还添加了强有力的免责声明，明确表示用户不应依赖角色提供任何类型的专业建议。”