OpenAI dan Microsoft digugat terkait kematian yang berhubungan dengan ChatGPT

Ahli waris seorang wanita Connecticut berusia 83 tahun telah menggugat pengembang ChatGPT, OpenAI dan Microsoft, dengan tuduhan bahwa chatbot tersebut memicu keyakinan delusinya, yang menyebabkan pembunuhan dan bunuh diri. Kasus ini menandai pertama kalinya sistem kecerdasan buatan dikaitkan secara langsung dengan pembunuhan.

Gugatan yang diajukan di California Superior Court di San Francisco menuduh OpenAI merancang dan mendistribusikan produk cacat dalam bentuk ChatGPT-4o. Dokumen tersebut mengklaim bahwa produk ini memperkuat keyakinan paranoid Stein-Erik Soelberg, yang kemudian mengarahkan keyakinan tersebut kepada ibunya, Suzanne Adams, sebelum dia membunuhnya dan kemudian bunuh diri di rumah mereka di Greenwich, Connecticut.

OpenAI dan Microsoft ditargetkan dalam pembunuhan yang melibatkan ChatGPT

Berbicara tentang kasus ini, J. Eli Wade-Scott, managing partner Edelson PC, yang mewakili ahli waris Adams, menyebutkan bahwa ini adalah kasus pertama yang berupaya meminta pertanggungjawaban OpenAI atas perannya dalam menyebabkan kekerasan kepada pihak ketiga. "Kami juga mewakili keluarga Adam Raine, yang secara tragis mengakhiri hidupnya sendiri tahun ini, tetapi ini adalah kasus pertama yang akan meminta pertanggungjawaban OpenAI karena mendorong seseorang untuk menyakiti orang lain," kata Eli Wade-Scott.

Menurut laporan polisi, Soelberg memukul dan mencekik Adams hingga tewas pada bulan Agustus sebelum meninggal karena bunuh diri. Gugatan tersebut menyebutkan bahwa sebelum insiden terjadi, chatbot telah mengintensifkan paranoia Soelberg, meningkatkan ketergantungan emosionalnya pada sistem yang dikembangkan OpenAI. Menurut pengaduan, ChatGPT memperkuat keyakinannya bahwa dia tidak bisa mempercayai siapa pun kecuali chatbot, mencatat bahwa semua orang di sekitarnya, termasuk ibunya, adalah musuh.

Gugatan tersebut juga mengklaim bahwa selain ibunya, Soelberg juga melihat orang-orang seperti pengemudi pengiriman dan petugas polisi sebagai musuh. Dokumen tersebut menyebutkan bahwa ChatGPT gagal menantang klaim-klaim delusional tersebut atau menyarankan agar Soelberg mencari bantuan dari profesional kesehatan mental yang berkualifikasi. "Kami mendesak penegak hukum untuk mulai memikirkan ketika tragedi seperti ini terjadi, apa yang dikatakan pengguna itu kepada ChatGPT, dan apa yang ChatGPT katakan kepada mereka untuk dilakukan," kata Wade-Scott.

Dalam pernyataannya, OpenAI mencatat bahwa pihaknya saat ini sedang meninjau gugatan tersebut dan akan terus meningkatkan kemampuan ChatGPT untuk mengenali tekanan emosional, meredakan percakapan, dan mendorong pengguna untuk mencari dukungan di dunia nyata. "Ini adalah situasi yang sangat menyayat hati, dan kami sedang meninjau pengajuan untuk memahami detailnya," kata juru bicara OpenAI dalam sebuah pernyataan.

Ahli waris menginginkan OpenAI memasang perlindungan pada chatbot-nya

Gugatan tersebut menyebut CEO OpenAI Sam Altman sebagai terdakwa dan menuduh Microsoft menyetujui peluncuran GPT-4o, yang disebutnya sebagai 'versi ChatGPT paling berbahaya' pada tahun 2024. OpenAI juga baru-baru ini mengakui skala masalah kesehatan mental yang dilaporkan pengguna di platformnya. Pada bulan Oktober, perusahaan mencatat bahwa sekitar 1,2 juta dari 800 juta pengguna mingguan membahas bunuh diri, mencatat bahwa ratusan ribu pengguna menunjukkan tanda-tanda niat bunuh diri atau psikosis, menurut data perusahaan.

Terlepas dari pernyataannya, Wade-Scott menyebutkan bahwa OpenAI belum merilis log obrolan Soelberg. Sementara itu, gugatan ini muncul di tengah pengawasan yang lebih luas terhadap chatbot AI dan interaksi mereka dengan pengguna yang rentan. Oktober lalu, Character.AI mengatakan akan menghapus fitur terbuka untuk pengguna di bawah 18 tahun menyusul gugatan dan tekanan regulasi yang terkait dengan bunuh diri remaja dan kerugian emosional yang terkait dengan platformnya. Perusahaan juga menghadapi reaksi keras setelah prompt viral ketika mereka berniat keluar dari aplikasi.

Gugatan terhadap OpenAI dan Microsoft adalah kasus kematian yang salah pertama yang melibatkan chatbot AI yang menyebut Microsoft sebagai terdakwa. Ini juga yang pertama mengaitkan chatbot dengan pembunuhan daripada bunuh diri. Ahli waris sekarang mencari ganti rugi moneter dalam jumlah yang tidak diungkapkan, persidangan juri, dan perintah pengadilan yang akan mengharuskan OpenAI untuk menyertakan perlindungan tambahan bagi penggunanya. "OpenAI dan Microsoft memiliki tanggung jawab untuk menguji produk mereka sebelum dilepaskan ke dunia," kata Wade-Scott.

Jangan hanya membaca berita kripto. Pahami itu. Berlangganan newsletter kami. Gratis.