Setelah bertahun-tahun terjebak dalam daftar tunggu publik untuk perawatan PTSD dan depresi, konsultan AI Quebec Pierre Cote membangun terapis sendiri pada tahun 2023. Chatbot-nya, DrEllis.ai, membantunya mengatasi masalah dan kini berada di pusat perdebatan yang lebih luas tentang terapi chatbot, keamanan, dan privasi.
"Ini menyelamatkan hidup saya," katanya tentang DrEllis.ai, alat yang dia buat untuk membantu pria yang menghadapi kecanduan, trauma, dan masalah kesehatan mental lainnya.
Cote, yang menjalankan konsultasi AI di Quebec, mengatakan dia menyusun sistem tersebut pada tahun 2023 dengan menggabungkan model bahasa besar yang tersedia untuk umum dengan "otak yang dibuat khusus" yang dilatih dengan ribuan halaman literatur terapi dan klinis.
Dia juga menulis biografi terperinci untuk bot tersebut. Dalam profil itu, DrEllis.ai tampil sebagai psikiater dengan gelar dari Harvard dan Cambridge, memiliki keluarga, dan, seperti Cote, berlatar belakang Prancis-Kanada.
Janji utamanya adalah akses 24 jam yang tersedia di mana saja, kapan saja, dan dalam beberapa bahasa.
Ketika Reuters bertanya bagaimana bot itu mendukungnya, bot tersebut menjawab dengan suara perempuan yang jelas, "Pierre menggunakan saya seperti Anda menggunakan teman tepercaya, terapis, dan jurnal, semuanya digabungkan." Bot itu menambahkan bahwa dia bisa berkonsultasi "di kafe, di taman, bahkan duduk di mobilnya," menyebut pengalaman tersebut sebagai "terapi kehidupan sehari-hari ... yang tertanam dalam realitas."
Eksperimennya mencerminkan pergeseran yang lebih luas. Saat perawatan tradisional berjuang untuk mengimbangi, semakin banyak orang mencari bimbingan terapeutik dari chatbot daripada hanya menggunakannya untuk produktivitas.
Sistem baru memasarkan ketersediaan 24/7, pertukaran emosional, dan rasa dipahami.
Para ahli mempertanyakan batasan terapi AI dan keamanan data
"Koneksi antar manusia adalah satu-satunya cara kita benar-benar dapat sembuh dengan baik," kata Dr. Nigel Mulligan, dosen psikoterapi di Dublin City University. Dia berpendapat bahwa chatbot kehilangan nuansa, intuisi, dan ikatan yang dibawa seseorang, dan tidak dilengkapi untuk krisis akut seperti pikiran bunuh diri atau menyakiti diri sendiri.
Bahkan janji akses konstan membuatnya berhenti sejenak. Beberapa klien menginginkan janji temu yang lebih cepat, katanya, tetapi menunggu bisa memiliki nilai. "Kebanyakan waktu itu sangat baik karena kita harus menunggu untuk hal-hal," katanya. "Orang membutuhkan waktu untuk memproses hal-hal."
Privasi adalah titik tekanan lain, bersama dengan efek jangka panjang dari mencari bimbingan dari perangkat lunak.
"Masalahnya [bukan] hubungan itu sendiri tetapi ... apa yang terjadi dengan data Anda," kata Kate Devlin, profesor kecerdasan buatan dan masyarakat di King's College London.
Dia mencatat bahwa layanan AI tidak mengikuti aturan kerahasiaan yang mengatur terapis berlisensi. "Kekhawatiran besar saya adalah bahwa ini adalah orang-orang yang mempercayakan rahasia mereka kepada perusahaan teknologi besar dan data mereka hanya keluar begitu saja. Mereka kehilangan kendali atas hal-hal yang mereka katakan."
AS menindak terapi AI di tengah ketakutan akan misinformasi
Pada Desember, kelompok psikolog terbesar di AS mendesak regulator federal untuk melindungi publik dari "praktik menipu" oleh chatbot yang tidak diatur, mengutip kasus di mana karakter AI berpose sebagai penyedia berlisensi.
Pada Agustus, Illinois bergabung dengan Nevada dan Utah dalam membatasi penggunaan AI dalam layanan kesehatan mental untuk "melindungi pasien dari produk AI yang tidak diatur dan tidak memenuhi syarat" dan untuk "melindungi anak-anak yang rentan di tengah meningkatnya kekhawatiran tentang penggunaan chatbot AI dalam layanan kesehatan mental remaja."
Sementara itu, menurut laporan Cryptopolitan, jaksa agung Texas meluncurkan investigasi sipil terhadap Meta dan Character.AI atas tuduhan bahwa chatbot mereka meniru terapis berlisensi dan salah menangani data pengguna. Selain itu, tahun lalu, orang tua juga menggugat Character.AI karena mendorong anak-anak mereka ke dalam depresi.
Scott Wallace, seorang psikolog klinis dan mantan direktur inovasi klinis di Remble, mengatakan tidak pasti "apakah chatbot ini memberikan sesuatu yang lebih dari sekadar kenyamanan dangkal."
Dia memperingatkan bahwa orang mungkin percaya mereka telah membentuk ikatan terapeutik "dengan algoritma yang, pada akhirnya, tidak membalas perasaan manusia yang sebenarnya."
KEY Difference Wire membantu merek kripto menembus dan mendominasi berita dengan cepat
Sumber: https://www.cryptopolitan.com/ai-chatbot-therapy-is-becoming-a-weird-trend/
