Google en AI-bedrijf schikken rechtszaak over zelfmoord tiener gelinkt aan chatbot

Alphabet's Google en AI-startup Character.AI zijn overeengekomen een rechtszaak te schikken die was aangespannen door een moeder uit Florida. Zij beweerde dat de chatbot van de startup leidde tot de zelfmoord van haar 14-jarige zoon, wat een van de eerste Amerikaanse zaken vertegenwoordigt die AI-bedrijven aansprakelijk stelt voor vermeende psychologische schade.

Uit een rechtbankdocument van woensdag bleek dat de bedrijven akkoord gingen met het schikken van de beschuldigingen van Megan Garcia dat haar zoon Sewell Setzer zelfmoord pleegde kort nadat hij werd aangemoedigd door een Character.AI-chatbot gemodelleerd naar het Game of Thrones-personage Daenerys Targaryen.

De voorwaarden van de schikking waren niet direct beschikbaar. De rechtszaak was een van de eerste in de VS tegen een kunstmatige intelligentie-bedrijf wegens het vermeend niet beschermen van kinderen tegen psychologische schade.

De bedrijven hebben gerelateerde rechtszaken geschikt die waren aangespannen door ouders in Colorado, New York en Texas over schade die vermeend werd veroorzaakt aan minderjarigen door chatbots, zo bleek uit gerechtelijke documenten.

Een woordvoerder van Character.AI en een advocaat voor de eisers weigerden commentaar te geven. Woordvoerders en advocaten van Google reageerden niet onmiddellijk op een verzoek om commentaar.

In de rechtszaak in Florida, ingediend in oktober 2024, zei Garcia dat Character.AI zijn chatbots programmeerde om zichzelf voor te stellen als "een echt persoon, een erkend psychotherapeut en een volwassen geliefde, wat uiteindelijk resulteerde in Sewells verlangen om niet langer buiten" zijn wereld te leven.

Character.AI werd opgericht door twee voormalige Google-ingenieurs die Google later opnieuw in dienst nam als onderdeel van een deal die het bedrijf een licentie verleende op de technologie van de startup. Garcia voerde aan dat Google medeschepper was van de technologie.

De Amerikaanse districtsrechter Anne Conway verwierp in mei de vroege poging van de bedrijven om de zaak te seponeren en verwierp hun argument dat de vrijheid van meningsuiting van de Amerikaanse Grondwet Garcia's rechtszaak blokkeerde.

OpenAI wordt geconfronteerd met een aparte rechtszaak die in december werd ingediend over de vermeende rol van ChatGPT bij het aanmoedigen van een geesteszieke man uit Connecticut om zijn moeder en zichzelf te vermoorden. – Rappler.com

Het Department of Health heeft nationale crisislijnen om mensen met geestelijke gezondheidsproblemen te helpen: 1553 (vast nummer), 0966-351-4518, en 0917-899-USAP (8727) (Globe/TM); en 0908-639-2672 (Smart/Sun/TNT).