Google, công ty AI giải quyết vụ kiện liên quan đến cái chết của thiếu niên do chatbot

Google thuộc Alphabet và công ty khởi nghiệp AI Agent Character.AI đã đồng ý giải quyết vụ kiện do một người mẹ ở Florida đưa ra, người cáo buộc chatbot của công ty khởi nghiệp đã dẫn đến việc con trai 14 tuổi của bà tự tử, đại diện cho một trong những vụ kiện đầu tiên tại Mỹ nhắm vào các công ty AI về cáo buộc gây tổn hại tâm lý.

Một hồ sơ tòa án hôm thứ Tư cho biết các công ty đã đồng ý giải quyết cáo buộc của Megan Garcia rằng con trai bà Sewell Setzer đã tự tử ngay sau khi được khuyến khích bởi một chatbot Character.AI được mô phỏng theo nhân vật Daenerys Targaryen trong Game of Thrones.

Các điều khoản của thỏa thuận chưa được công bố ngay lập tức. Vụ kiện này là một trong những vụ đầu tiên tại Mỹ chống lại một công ty trí tuệ nhân tạo về cáo buộc không bảo vệ trẻ em khỏi tổn hại tâm lý.

Các công ty đã giải quyết các vụ kiện liên quan do phụ huynh ở Colorado, New York và Texas đưa ra về những tổn hại bị cáo buộc gây ra cho trẻ vị thành niên bởi chatbot, các tài liệu tòa án cho thấy.

Người phát ngôn của Character.AI và luật sư của các nguyên đơn từ chối bình luận. Người phát ngôn và luật sư của Google không phản hồi ngay yêu cầu bình luận.

Trong vụ kiện tại Florida, được đệ trình vào tháng 10 năm 2024, Garcia cho biết Character.AI đã lập trình chatbot của mình để thể hiện như "một người thật, một nhà trị liệu tâm lý được cấp phép và một người tình trưởng thành, cuối cùng dẫn đến mong muốn không còn sống bên ngoài" thế giới của nó của Sewell.

Character.AI được thành lập bởi hai kỹ sư cũ của Google, những người Google sau đó tuyển dụng lại như một phần của thỏa thuận cấp giấy phép cho công nghệ của công ty khởi nghiệp. Garcia cho rằng Google là đồng tạo ra công nghệ này.

Thẩm phán Quận Mỹ Anne Conway đã bác bỏ nỗ lực ban đầu của các công ty để bác bỏ vụ kiện vào tháng 5, bác bỏ lập luận của họ rằng sự bảo vệ tự do ngôn luận của Hiến pháp Mỹ cấm vụ kiện của Garcia.

OpenAI đang đối mặt với một vụ kiện riêng được đệ trình vào tháng 12 về vai trò bị cáo buộc của ChatGPT trong việc khuyến khích một người đàn ông mắc bệnh tâm thần ở Connecticut giết mẹ mình và tự tử. – Rappler.com

Bộ Y tế có đường dây nóng khủng hoảng quốc gia để hỗ trợ những người có vấn đề về sức khỏe tâm thần: 1553 (điện thoại cố định), 0966-351-4518 và 0917-899-USAP (8727) (Globe/TM); và 0908-639-2672 (Smart/Sun/TNT).