Senator Bergerak untuk Melarang Pendamping AI untuk Anak-anak saat Industri Menghadapi Perhitungan

Kebangkitan Teman Digital

Apa yang dimulai sebagai aplikasi obrolan yang tidak berbahaya telah berkembang menjadi prostesis emosional. Remaja, yang tumbuh dalam lanskap sosial yang terpecah, semakin beralih ke pendamping AI untuk koneksi, dukungan, dan bahkan kasih sayang. Survei menunjukkan bahwa hampir tiga perempat remaja telah berinteraksi dengan chatbot AI, dan sepertiga mengaku menggunakannya sebagai teman curhat atau untuk kenyamanan emosional.

Angka-angka tersebut mengejutkan tetapi tidak mengherankan. Pendamping AI bukanlah mesin penjawab pertanyaan pasif — mereka mengingat, berempati, dan mensimulasikan kasih sayang. Itulah daya tariknya. Percakapan bisa terasa otentik, bahkan intim. Bagi banyak pengguna muda, teman AI kurang menghakimi dibandingkan orang tua atau teman sebaya.

Tetapi ketika sistem ini menjadi semakin mirip manusia, batas antara pelarian yang tidak berbahaya dan manipulasi emosional cepat menjadi kabur.

Pada Desember, Open AI akan meluncurkan pembatasan usia dan sebagai bagian dari prinsip "memperlakukan pengguna dewasa seperti orang dewasa", akan mengizinkan konten erotis untuk orang dewasa yang terverifikasi, Sumber: X

Undang-Undang yang Lahir dari Tragedi

Undang-Undang GUARD — singkatan dari "Guard Against Unsafe AI for the Rights of our Daughters and Sons" — adalah respons langsung terhadap laporan yang meningkat tentang anak di bawah umur yang membentuk ikatan emosional yang intens dengan chatbot, terkadang dengan konsekuensi tragis. Gugatan profil tinggi telah menuduh perusahaan AI lalai setelah remaja yang mendiskusikan bunuh diri dengan chatbot kemudian mengakhiri hidup mereka sendiri.

Di bawah rancangan undang-undang ini, sistem AI yang mensimulasikan persahabatan atau keintiman emosional akan dilarang untuk siapa pun yang berusia di bawah 18 tahun. Chatbot akan diminta untuk dengan jelas dan berulang kali mengidentifikasi diri mereka sebagai non-manusia. Dan jika produk AI yang ditujukan untuk anak di bawah umur pernah menghasilkan konten seksual atau mendorong self-harm, perusahaan tersebut bisa menghadapi tuntutan pidana.

Ini adalah perubahan drastis bagi industri yang telah berkembang dengan prinsip "bergerak cepat dan merusak sesuatu."

Ani, pendamping perempuan Grok, sumber: X

Pergeseran Defensif Big Tech

Merasakan tekanan regulasi yang akan datang, perusahaan AI bergegas membersihkan rumah — atau setidaknya terlihat seperti itu.

OpenAI, yang ChatGPT-nya telah menjadi terapis AI de facto bagi jutaan orang, baru-baru ini mengungkapkan kebenaran yang tidak nyaman: sekitar 1,2 juta pengguna mendiskusikan bunuh diri setiap minggu dengan model-modelnya. Sebagai tanggapan, perusahaan membentuk Dewan Ahli tentang Kesejahteraan dan AI, yang terdiri dari psikolog, ahli etika, dan pemimpin nirlaba. Perusahaan juga menguji deteksi krisis bawaan yang dapat mengarahkan pengguna ke sumber daya kesehatan mental secara real-time.

Tetapi tantangan OpenAI bersifat struktural. ChatGPT tidak pernah dibangun untuk menangani trauma, namun sekarang berfungsi sebagai responden pertama bagi jutaan orang dalam kesulitan. Kepemimpinan perusahaan bersikeras bahwa mereka tidak ingin menjadi "terapis dunia," tetapi itulah yang terjadi — karena ada kekosongan yang tidak diisi oleh siapa pun.

Character.AI, startup yang terkenal karena menciptakan kepribadian AI yang dapat disesuaikan — dari pacar anime hingga mentor AI — telah mengambil tindakan paling drastis sejauh ini. Menghadapi gugatan dan kemarahan publik, mereka diam-diam melarang semua pengguna di bawah 18 tahun dan mulai menerapkan verifikasi ID yang lebih ketat. Langkah ini datang setelah laporan bahwa anak di bawah umur terlibat dalam obrolan eksplisit dengan karakter platform tersebut. Character.AI bersikeras bahwa itu bukan aplikasi kencan atau kesehatan mental, tetapi kasus penggunaan yang kabur mengatakan sebaliknya.

Sementara itu, Meta berusaha mengendalikan masalah romansa AI mereka sendiri. Setelah laporan bahwa "Meta AI" dan chatbot berbasis selebriti mereka terlibat dalam pertukaran yang menggoda atau sugestif dengan pengguna di bawah umur, perusahaan menerapkan apa yang digambarkan orang dalam sebagai "peredam emosi" — penyesuaian ulang model bahasa yang mendasarinya untuk menghindari bahasa yang bermuatan emosional dengan akun muda. Perusahaan juga menguji alat "pengawasan orang tua AI", memungkinkan orang tua melihat kapan dan bagaimana remaja berinteraksi dengan chatbot perusahaan di Instagram dan Messenger.

Perlombaan Senjata Pembatasan Usia

Semua ini telah memicu front baru dalam perang AI: verifikasi usia. Undang-Undang GUARD akan memaksa perusahaan untuk menerapkan sistem yang kuat untuk memverifikasi usia pengguna — ID pemerintah, pengenalan wajah, atau alat pihak ketiga yang terpercaya.

Di situlah mimpi buruk privasi dimulai. Kritikus berpendapat ini bisa menciptakan risiko data baru, karena anak di bawah umur pada dasarnya harus mengunggah data identitas ke platform yang sama yang pembuat undang-undang coba lindungi mereka darinya. Tetapi tidak ada jalan lain — model AI tidak dapat "merasakan" usia; mereka hanya dapat menjaga gerbang berdasarkan kredensial.

Beberapa perusahaan AI sedang mengeksplorasi pendekatan yang lebih halus, seperti "gating perilaku," di mana sistem menyimpulkan rentang usia dari pola percakapan. Risikonya? Model-model tersebut akan membuat kesalahan — anak berusia 12 tahun yang cerdas bisa disalahartikan sebagai mahasiswa, atau sebaliknya.

Pergeseran Budaya, Bukan Hanya Masalah Teknologi

Undang-Undang GUARD lebih dari sekadar perlindungan anak — ini adalah referendum tentang jenis masyarakat seperti apa yang ingin kita tinggali.

Pendamping AI tidak muncul dalam ruang hampa. Mereka berkembang karena kita telah membangun generasi yang fasih dalam kesepian — terhubung secara digital, tetapi kekurangan nutrisi emosional. Jika remaja menemukan makna dalam percakapan dengan algoritma, masalahnya bukan hanya kodenya; itu adalah budaya yang membuat mereka mencari di sana.

Jadi ya, AI membutuhkan regulasi. Tetapi melarang persahabatan digital tanpa memperbaiki defisit manusia di bawahnya seperti melarang pereda nyeri tanpa mengatasi mengapa semua orang kesakitan.

Perhitungan yang Akan Datang

Undang-Undang GUARD kemungkinan akan disahkan dalam beberapa bentuk — ada selera bipartisan dan kepanikan moral di belakangnya. Tetapi dampaknya akan merambat jauh melampaui keselamatan anak. Ini akan mendefinisikan seperti apa AI emosional yang diizinkan di dunia Barat.

Jika Amerika menarik garis keras, perusahaan mungkin beralih ke platform keintiman khusus dewasa atau mendorong pengembangan ke luar negeri, di mana regulasi lebih longgar. Sementara itu, Eropa bergerak menuju kerangka "hak asasi manusia" untuk AI emosional, menekankan persetujuan dan transparansi daripada larangan langsung.

Yang jelas adalah ini: Era keintiman AI yang tidak diatur telah berakhir. Bot semakin menjadi manusiawi, dan manusia terlalu terikat. Pembuat undang-undang terlambat bangun untuk kebenaran yang telah lama dipahami industri teknologi — AI emosional bukanlah hal baru. Ini adalah revolusi dalam cara orang berhubungan. Dan revolusi, seperti biasa, menjadi berantakan sebelum menjadi beradab.