Malaysia dan Indonesia Membatasi Grok atas Penyalahgunaan AI Konten Eksplisit Seksual

Malaysia dan Indonesia telah membatasi akses ke Grok, chatbot kecerdasan buatan yang terkait dengan platform media sosial Elon Musk, X. Keputusan ini diambil sebagai respons terhadap kekhawatiran bahwa alat AI tersebut digunakan untuk menghasilkan gambar palsu eksplisit seksual dari individu nyata.

Grok memungkinkan pengguna untuk membuat dan memodifikasi gambar. Namun, pihak berwenang di kedua negara telah menyatakan kekhawatiran bahwa alat ini semakin banyak digunakan untuk memanipulasi foto menjadi konten yang terbuka atau bersifat seksual tanpa persetujuan. Regulator telah menyoroti risiko terhadap perempuan dan anak-anak, menyatakan bahwa alat ini dapat dengan mudah disalahgunakan untuk memproduksi deepfake pornografi.

Malaysia dan Indonesia kini menjadi negara pertama di dunia yang sepenuhnya memblokir Grok, mengambil posisi tegas terhadap alat AI yang menurut pihak berwenang berkembang lebih cepat daripada peraturan keselamatan.

Grok melintasi batas hukum dan sosial

Regulator khawatir tentang masalah yang lebih luas di luar satu chatbot, karena munculnya gambar seksual yang dihasilkan AI mengungkapkan celah dalam undang-undang keselamatan online dan menimbulkan risiko bagi pengguna. Di Malaysia, regulator komunikasi mencatat bahwa mereka sebelumnya telah memperingatkan X tentang penyalahgunaan AI-nya, tetapi merasa respons perusahaan lebih memprioritaskan pelaporan pengguna daripada mengatasi masalah inti.

Kementerian urusan digital Indonesia menekankan perlunya martabat dan hak asasi manusia, menyatakan bahwa alat AI yang membuat konten seksual tanpa persetujuan merusak kepercayaan publik dan membahayakan kelompok rentan. Pemerintah telah meminta X untuk menjelaskan bagaimana Grok dikendalikan dan dimoderasi.

Larangan ini juga mencerminkan sikap Indonesia yang sudah lama berlaku terhadap konten online. Negara ini sebelumnya telah memblokir platform seperti Pornhub dan OnlyFans, dan pejabat memandang gambar seksual yang dihasilkan AI sebagai perluasan dari masalah yang sama, kini disampaikan melalui teknologi yang lebih baru.

Baca juga: Inside Grok's deepfake pornography crisis and the legal reckoning ahead

Kontroversi Grok mendapat perhatian di luar Asia Tenggara. Di Inggris, regulator saat ini sedang menilai apakah X mematuhi peraturan keselamatan online. Selain itu, para pemimpin politik telah secara terbuka mengkritik penggunaan teknologi untuk membuat gambar palsu eksplisit.

Bagi pengguna, dampaknya bersifat pribadi. Beberapa individu yang gambarnya diubah menggunakan Grok melaporkan bahwa melaporkan konten tersebut tidak banyak membantu mencegah penyebarannya. Dalam beberapa kasus, mendorong orang lain untuk melaporkan postingan hanya mengakibatkan lebih banyak orang melihat gambar palsu, memperburuk kerusakan.

Reaksi negatif yang meningkat mendorong X untuk mempertimbangkan kembali cara Grok beroperasi, terutama karena pemerintah mulai memandang alat AI sebagai produk yang diatur daripada fitur eksperimental.

Postingan Malaysia and Indonesia restrict Grok over sexually explicit AI abuse pertama kali muncul di Technext.