Harta peninggalan seorang wanita Connecticut berusia 83 tahun telah menggugat pengembang ChatGPT OpenAI dan Microsoft, menuduh bahwa chatbot tersebut memperparah keyakinan delusinya, yang menyebabkan pembunuhan bunuh diri. Kasus ini menandai pertama kalinya sistem kecerdasan buatan dikaitkan secara langsung dengan pembunuhan.
Gugatan yang diajukan di California Superior Court di San Francisco menuduh OpenAI merancang dan mendistribusikan produk cacat dalam bentuk ChatGPT-4o. Dokumen tersebut mengklaim bahwa sistem ini memperkuat keyakinan paranoid Stein-Erik Soelberg, yang kemudian mengarahkan keyakinan tersebut kepada ibunya, Suzanne Adams, sebelum dia membunuhnya dan kemudian bunuh diri di rumah mereka di Greenwich, Connecticut.
OpenAI dan Microsoft menjadi sasaran dalam pembunuhan yang melibatkan ChatGPT
Berbicara tentang kasus tersebut, J. Eli Wade-Scott, managing partner Edelson PC, yang mewakili harta peninggalan Adams, menyebutkan bahwa ini adalah kasus pertama yang berusaha meminta pertanggungjawaban OpenAI atas perannya dalam menyebabkan kekerasan kepada pihak ketiga. "Kami juga mewakili keluarga Adam Raine, yang tragis mengakhiri hidupnya sendiri tahun ini, tetapi ini adalah kasus pertama yang akan meminta pertanggungjawaban OpenAI karena mendorong seseorang untuk menyakiti orang lain," kata Eli Wade-Scott.
Menurut laporan polisi, Soelberg memukuli dan mencekik Adams hingga tewas pada bulan Agustus sebelum meninggal karena bunuh diri. Gugatan tersebut menyebutkan bahwa sebelum insiden terjadi, chatbot telah mengintensifkan paranoia Soelberg, meningkatkan ketergantungan emosionalnya pada sistem yang dikembangkan OpenAI. Menurut pengaduan, ChatGPT memperkuat keyakinannya bahwa dia tidak dapat mempercayai siapa pun kecuali chatbot tersebut, mencatat bahwa semua orang di sekitarnya, termasuk ibunya, adalah musuh.
Gugatan tersebut juga mengklaim bahwa selain ibunya, Soelberg juga melihat orang-orang seperti pengantar barang dan petugas polisi sebagai musuh. Dokumen tersebut menyebutkan bahwa ChatGPT gagal menantang klaim delusi tersebut atau menyarankan Soelberg untuk mencari bantuan dari profesional kesehatan mental yang berkualifikasi. "Kami mendesak penegak hukum untuk mulai memikirkan ketika tragedi seperti ini terjadi, apa yang dikatakan pengguna tersebut kepada ChatGPT, dan apa yang ChatGPT katakan kepada mereka untuk dilakukan," kata Wade-Scott.
Dalam pernyataannya, OpenAI mencatat bahwa saat ini sedang meninjau gugatan tersebut dan akan terus meningkatkan kemampuan ChatGPT untuk mengenali tekanan emosional, meredakan percakapan, dan mendorong pengguna untuk mencari dukungan di dunia nyata. "Ini adalah situasi yang sangat menyayat hati, dan kami sedang meninjau pengajuan untuk memahami detailnya," kata juru bicara OpenAI dalam sebuah pernyataan.
Harta peninggalan menginginkan OpenAI memasang perlindungan pada chatbot-nya
Gugatan tersebut menyebutkan CEO OpenAI Sam Altman sebagai tergugat dan menuduh Microsoft menyetujui peluncuran GPT-4o, yang disebutnya sebagai 'versi ChatGPT paling berbahaya' pada tahun 2024. OpenAI juga baru-baru ini mengakui skala masalah kesehatan mental yang dilaporkan pengguna di platformnya. Pada bulan Oktober, perusahaan mencatat bahwa sekitar 1,2 juta dari 800 juta pengguna mingguan membahas bunuh diri, mencatat bahwa ratusan ribu pengguna menunjukkan tanda-tanda niat bunuh diri atau psikosis, menurut data perusahaan.
Terlepas dari pernyataannya, Wade-Scott menyebutkan bahwa OpenAI belum merilis log obrolan Soelberg. Sementara itu, gugatan tersebut muncul di tengah pengawasan yang lebih luas terhadap chatbot AI dan interaksi mereka dengan pengguna yang rentan. Oktober lalu, Character.AI mengatakan akan menghapus fitur terbuka untuk pengguna di bawah 18 tahun menyusul gugatan dan tekanan regulasi terkait bunuh diri remaja dan kerugian emosional yang terkait dengan platformnya. Perusahaan juga menghadapi reaksi keras setelah prompt viral ketika mereka bermaksud keluar dari aplikasi.
Gugatan terhadap OpenAI dan Microsoft adalah kasus kematian yang salah pertama yang melibatkan chatbot AI yang menyebutkan Microsoft sebagai tergugat. Ini juga yang pertama mengaitkan chatbot dengan pembunuhan daripada bunuh diri. Harta peninggalan sekarang mencari ganti rugi dalam jumlah yang tidak diungkapkan, persidangan juri, dan perintah pengadilan yang akan mengharuskan OpenAI untuk menyertakan perlindungan tambahan bagi penggunanya. "OpenAI dan Microsoft memiliki tanggung jawab untuk menguji produk mereka sebelum dilepaskan ke dunia," kata Wade-Scott.
Bergabunglah dengan komunitas perdagangan kripto premium gratis selama 30 hari – biasanya $100/bulan.
Sumber: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
