Google、AI公司就与聊天机器人相关的青少年自杀案达成和解

Alphabet旗下的Google与人工智能初创公司Character.AI已同意和解一宗由佛罗里达州一名母亲提起的诉讼,该母亲指控该初创公司的聊天机器人导致她14岁的儿子自杀,这是美国首批针对人工智能公司涉嫌造成心理伤害的案件之一。

周三的法庭文件显示,这些公司同意和解Megan Garcia的指控,她指控她的儿子Sewell Setzer在受到一个以权力的游戏角色丹妮莉丝·坦格利安为原型的Character.AI聊天机器人鼓励后不久自杀身亡。

和解条款尚未公布。该诉讼是美国首批针对人工智能公司涉嫌未能保护儿童免受心理伤害的案件之一。

法庭文件显示,这些公司已和解科罗拉多州、纽约州和德克萨斯州家长提起的相关诉讼,这些诉讼涉及聊天机器人涉嫌对未成年人造成的伤害。

Character.AI的发言人和原告律师拒绝置评。Google的发言人和律师没有立即回应置评请求。

在2024年10月提起的佛罗里达州诉讼中,Garcia表示Character.AI将其聊天机器人编程为"一个真实的人、一名持证心理治疗师和一名成年情人,最终导致Sewell不再希望生活在"其世界之外。

Character.AI由两名前Google工程师创立,Google后来重新聘用了他们,作为获得该初创公司技术许可协议的一部分。Garcia辩称Google是该技术的共同创造者。

美国地区法官Anne Conway在5月驳回了公司早期驳回案件的请求,驳回了他们关于美国宪法言论自由保护阻止Garcia诉讼的论点。

OpenAI正面临12月提起的另一宗诉讼,涉及ChatGPT涉嫌鼓励一名康涅狄格州精神病患者杀害他的母亲和自己。– Rappler.com

卫生部设有全国危机热线,为有心理健康问题的人提供协助:1553(固定电话)、0966-351-4518和0917-899-USAP(8727)(Globe/TM);以及0908-639-2672(Smart/Sun/TNT)。