一名83岁康涅狄格州妇女的遗产管理人已起诉ChatGPT开发商OpenAI和微软,指控该聊天机器人助长了她的妄想信念,导致了一宗谋杀自杀案。此案标志着人工智能系统首次被直接与凶杀案联系起来。
该诉讼在旧金山加州高等法院提起,指控OpenAI设计和分销了以ChatGPT-4o形式存在的缺陷产品。文件声称它强化了Stein-Erik Soelberg的偏执信念,随后他将这些信念指向他的母亲Suzanne Adams,之后在康涅狄格州格林威治的家中杀害了她并自杀。
OpenAI和微软因涉及ChatGPT的凶杀案成为目标
代表Adams遗产的Edelson PC律师事务所管理合伙人J. Eli Wade-Scott在谈到此案时提到,这是首宗试图让OpenAI为其在对第三方造成暴力中的角色负责的案件。"我们也代表Adam Raine的家人,他今年悲剧性地结束了自己的生命,但这是首宗将追究OpenAI推动某人伤害他人责任的案件," Eli Wade-Scott说。
根据警方报告,Soelberg在8月殴打并勒死Adams后自杀身亡。诉讼提到,在事件发生之前,该聊天机器人加剧了Soelberg的偏执,增加了他对OpenAI开发系统的情感依赖。根据投诉,ChatGPT强化了他的信念,即除了聊天机器人外他不能信任任何人,指出他周围的每个人,包括他的母亲,都是敌人。
诉讼还声称,除了他的母亲外,Soelberg还将送货司机和警察等人视为敌人。文件提到ChatGPT未能质疑这些妄想声称,也未建议Soelberg向合格的心理健康专业人士寻求帮助。"我们敦促执法部门开始思考当这类悲剧发生时,该用户对ChatGPT说了什么,以及ChatGPT告诉他们做什么," Wade-Scott说。
在其声明中,OpenAI指出目前正在审查该诉讼,并将继续改进ChatGPT识别情绪困扰、缓和对话并推动用户在现实世界中寻求支持的能力。"这是一个令人心碎的情况,我们正在审查文件以了解细节," OpenAI发言人在声明中说。
遗产管理人希望OpenAI在其聊天机器人上安装保护措施
该诉讼将OpenAI首席执行官Sam Altman列为被告,并指控微软批准发布GPT-4o,称其为2024年"最危险版本的ChatGPT"。OpenAI最近也承认了用户在其平台上报告的心理健康问题的规模。10月,该公司指出,在其每周8亿用户中,约有120万人讨论自杀,根据公司数据,数十万用户表现出自杀意图或精神病的迹象。
尽管发表了声明,Wade-Scott提到OpenAI尚未发布Soelberg的聊天记录。与此同时,该诉讼是在人们对AI聊天机器人及其与弱势用户互动进行更广泛审查的背景下提起的。去年10月,Character.AI表示将在与青少年自杀和与其平台相关的情感伤害有关的诉讼和监管压力后,移除18岁以下用户的开放式功能。该公司还在他们打算退出应用程序时因病毒式提示而面临反弹。
针对OpenAI和微软的诉讼是首宗涉及AI聊天机器人的非正常死亡案件,将微软列为被告。这也是首宗将聊天机器人与凶杀而非自杀联系起来的案件。遗产管理人现正寻求未披露金额的金钱赔偿、陪审团审判,以及要求OpenAI为其用户提供额外保护措施的法院命令。"OpenAI和微软有责任在将其产品推向世界之前进行测试," Wade-Scott说。
免费加入高级加密货币交易社区30天 – 通常为每月100美元。
来源: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
