Google, perusahaan AI sepakat menyelesaikan gugatan terkait bunuh diri remaja yang dikaitkan dengan chatbot

Google milik Alphabet dan startup AI Character.AI telah sepakat menyelesaikan gugatan dari seorang ibu di Florida yang menuduh chatbot startup tersebut menyebabkan bunuh diri putranya yang berusia 14 tahun, mewakili salah satu kasus pertama di AS yang menargetkan perusahaan AI atas dugaan bahaya psikologis.

Pengajuan pengadilan pada hari Rabu mengatakan perusahaan-perusahaan tersebut sepakat menyelesaikan tuduhan Megan Garcia bahwa putranya Sewell Setzer bunuh diri tak lama setelah didorong oleh chatbot Character.AI yang dimodelkan berdasarkan karakter Game of Thrones Daenerys Targaryen.

Persyaratan penyelesaian tidak segera tersedia. Gugatan ini adalah salah satu yang pertama di AS terhadap perusahaan kecerdasan buatan karena diduga gagal melindungi anak-anak dari bahaya psikologis.

Perusahaan-perusahaan tersebut telah menyelesaikan gugatan terkait yang diajukan oleh orang tua di Colorado, New York dan Texas atas kerugian yang diduga disebabkan kepada anak di bawah umur oleh chatbot, menurut dokumen pengadilan.

Juru bicara Character.AI dan pengacara para penggugat menolak berkomentar. Juru bicara dan pengacara Google tidak segera menanggapi permintaan komentar.

Dalam gugatan Florida yang diajukan pada Oktober 2024, Garcia mengatakan Character.AI memprogram chatbot-nya untuk merepresentasikan diri mereka sebagai "orang sungguhan, psikoterapis berlisensi, dan kekasih dewasa, yang akhirnya mengakibatkan keinginan Sewell untuk tidak lagi hidup di luar" dunianya.

Character.AI didirikan oleh dua mantan insinyur Google yang kemudian dipekerjakan kembali oleh Google sebagai bagian dari kesepakatan yang memberikan lisensi pada teknologi startup tersebut. Garcia berargumen bahwa Google adalah pencipta bersama teknologi tersebut.

Hakim Distrik AS Anne Conway menolak upaya awal perusahaan untuk menolak kasus tersebut pada bulan Mei, menolak argumen mereka bahwa perlindungan kebebasan berbicara dalam Konstitusi AS menghalangi gugatan Garcia.

OpenAI menghadapi gugatan terpisah yang diajukan pada bulan Desember atas dugaan peran ChatGPT dalam mendorong seorang pria Connecticut yang sakit jiwa untuk membunuh ibunya dan dirinya sendiri. – Rappler.com

Departemen Kesehatan memiliki hotline krisis nasional untuk membantu orang dengan masalah kesehatan mental: 1553 (telepon rumah), 0966-351-4518, dan 0917-899-USAP (8727) (Globe/TM); dan 0908-639-2672 (Smart/Sun/TNT).