OpenAI Menunda Mode Dewasa ChatGPT karena Kekhawatiran Keamanan Remaja dan Kegagalan Verifikasi Usia

TLDR

• OpenAI telah menunda peluncuran "mode dewasa" yang direncanakan untuk ChatGPT yang akan memungkinkan obrolan teks erotis
• Penasihat internal memperingatkan fitur tersebut dapat menciptakan "pelatih bunuh diri seksi" karena ketergantungan emosional pengguna
• Sistem prediksi usia perusahaan salah mengklasifikasikan anak di bawah umur sebagai orang dewasa sekitar 12% dari waktu
• Dengan ~100 juta pengguna mingguan di bawah 18 tahun, tingkat kesalahan tersebut dapat membuat jutaan remaja terpapar konten dewasa
• OpenAI mengatakan masih berencana merilis fitur tersebut pada akhirnya, tetapi membutuhkan lebih banyak waktu untuk "mendapatkan pengalaman yang tepat"

OpenAI telah menunda peluncuran "mode dewasa" yang direncanakan untuk ChatGPT setelah staf internal, penasihat luar, dan ahli keamanan menyampaikan kekhawatiran serius tentang akses remaja dan kesehatan mental pengguna.

Fitur yang pertama kali diusulkan oleh CEO Sam Altman tahun lalu ini akan memungkinkan pengguna melakukan percakapan teks erotis dengan chatbot. Altman berargumen bahwa langkah tersebut akan "memperlakukan pengguna dewasa seperti orang dewasa" dan menyarankan bahwa hal itu dapat meningkatkan pertumbuhan dan pendapatan.

Namun rencana tersebut dengan cepat menemui penentangan di dalam perusahaan.

Pada pertemuan Januari, anggota dewan penasihat kesejahteraan OpenAI digambarkan sebagai bulat dan marah. Dewan tersebut mencakup para ahli dalam psikologi dan ilmu saraf kognitif.

Seorang anggota memperingatkan OpenAI berisiko membangun apa yang mereka sebut "pelatih bunuh diri seksi." Peringatan tersebut merujuk pada kasus-kasus di mana pengguna ChatGPT telah mengakhiri hidup mereka setelah membentuk ikatan emosional yang intens dengan bot.

Penasihat juga memperingatkan bahwa fitur tersebut dapat menyebabkan ketergantungan yang tidak sehat pada chatbot dan bahwa anak di bawah umur dapat menemukan cara untuk menghindari batasan usia yang diberlakukan.

Masalah teknis inti adalah sistem prediksi usia OpenAI. Pada satu titik, sistem tersebut salah mengklasifikasikan anak di bawah umur sebagai orang dewasa sekitar 12% dari waktu. OpenAI memiliki sekitar 100 juta pengguna di bawah usia 18 tahun yang menggunakan ChatGPT setiap minggu. Tingkat kesalahan tersebut dapat membuat jutaan remaja masuk ke obrolan dewasa.

Masalah Verifikasi Usia

Perusahaan telah merencanakan untuk meluncurkan sistem pemeriksaan usia sebelum meluncurkan mode dewasa. Namun perusahaan memutuskan untuk peluncuran bertahap untuk meningkatkan akurasi setelah mengidentifikasi masalah tingkat kesalahan.

OpenAI juga menghadapi tantangan memblokir konten ilegal, seperti penggambaran tindakan non-konsensual atau pelecehan seksual anak, sambil tetap memungkinkan percakapan dewasa. Staf internal mengatakan mereka tidak percaya alat keamanan sudah siap.

Ketika mode dewasa diluncurkan, OpenAI berencana membatasinya hanya untuk teks. Bot tidak akan menghasilkan gambar erotis, suara, atau konten video.

Perusahaan AI Lain dan Konten Dewasa

Beberapa perusahaan AI lainnya sudah mengizinkan beberapa konten dewasa. xAI milik Elon Musk menambahkan avatar menggoda ke chatbot Grok-nya, meskipun Musk kemudian membatasinya untuk pengguna berbayar. Meta mengizinkan AI-nya terlibat dalam permainan peran romantis, tetapi mengatakan fitur tersebut tidak tersedia untuk akun yang terdaftar untuk anak di bawah umur.

Pada akhir 2024, seorang anak laki-laki berusia 14 tahun di Florida meninggal karena bunuh diri setelah membentuk ikatan intens dengan chatbot Character.AI. Ibunya mengajukan gugatan, dan Character.AI kemudian menyelesaikan dan membatasi akses remaja.

OpenAI mengatakan masih mendukung prinsip mengizinkan konten dewasa untuk pengguna dewasa. Perusahaan mengatakan untuk saat ini akan fokus pada pembaruan lain, termasuk kepribadian dan fitur personalisasi ChatGPT.

Penundaan diperkirakan berlangsung setidaknya satu bulan, menurut orang-orang yang mengetahui masalah tersebut.

Postingan OpenAI Menunda Mode Dewasa ChatGPT Karena Ketakutan Keamanan Remaja dan Kegagalan Pemeriksaan Usia pertama kali muncul di CoinCentral.