India meminta X untuk menangani konten cabul yang dihasilkan oleh Grok

Pemerintah India telah memerintahkan platform blogging X milik Elon Musk untuk melakukan perubahan pada chatbot kecerdasan buatan Grok terkait konten AI cabul. Negara tersebut menginginkan platform untuk segera melakukan perubahan teknis dan prosedural pada chatbot setelah pengguna dan anggota parlemen menandai beberapa kasus konten cabul.

Menurut negara tersebut, terdapat kasus chatbot digunakan untuk membuat gambar-gambar cabul ini, termasuk gambar wanita yang diubah dengan AI menggunakan alat tersebut. Perintah tersebut dikeluarkan pada hari Jumat oleh kementerian TI India, meminta platform untuk mengambil tindakan korektif terkait Grok, termasuk membatasi pembuatan konten yang melibatkan materi "ketelanjangan, seksualisasi, eksplisit secara seksual, atau melanggar hukum lainnya". Kementerian juga memberikan ultimatum 72 jam kepada platform untuk melakukan perubahan tersebut.

Pemerintah India memerintahkan X untuk melakukan perubahan teknis pada Grok

Sebagai bagian dari hasil yang harus dipenuhi dalam ultimatum 72 jam tersebut, kementerian juga meminta X untuk menyerahkan laporan tindakan yang merinci langkah-langkah yang telah diambil untuk mencegah hosting atau penyebaran konten tidak senonoh. Konten-konten ini mencakup "cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilik, atau dilarang menurut hukum lainnya." Perintah tersebut memperingatkan bahwa jika platform gagal melaksanakan langkah-langkah wajib, hal itu dapat membahayakan perlindungan "safe harbor"-nya.

Perintah India muncul di tengah kekhawatiran yang diangkat oleh pengguna yang membagikan contoh-contoh Grok diminta untuk mengubah gambar individu, terutama wanita, untuk membuatnya tampak mengenakan bikini. Masalah ini dipicu oleh pengaduan resmi yang diajukan oleh anggota parlemen India Priyanka Chaturvedi. Chaturvedi memperingatkan semua perusahaan besar dengan chatbot AI, menambahkan bahwa harus ada pagar pembatas yang dipasang untuk memeriksa fitur seperti Grok agar chatbot tidak melanggar martabat manusia.

Secara terpisah, pengguna juga telah menandai beberapa insiden di mana chatbot AI digunakan untuk menghasilkan gambar-gambar seksual yang melibatkan anak di bawah umur, masalah yang diakui X pada hari Jumat. Platform tersebut mengklaim bahwa hal itu disebabkan oleh beberapa kelalaian dalam perlindungan sebelum bergerak cepat untuk menghapus gambar-gambar yang dihasilkan. Platform juga mendesak pengguna untuk melaporkan secara resmi ke Federal Bureau of Investigation (FBI) atau CyberTipline NCMEC, mencatat bahwa X berkomitmen untuk mencegah masalah seperti itu.

X bisa menghadapi masalah hukum karena ketidakpatuhan

Menurut pengguna, gambar-gambar tidak senonoh dari wanita yang dihasilkan menggunakan chatbot tetap ada di platform. Perintah terbaru ini muncul setelah kementerian TI India mengeluarkan nasihat kepada platform media sosial, mengingatkan mereka bahwa kepatuhan terhadap hukum lokal yang mengatur konten cabul dan eksplisit secara seksual adalah prasyarat untuk mempertahankan kekebalan hukum dari tanggung jawab atas materi yang dihasilkan pengguna. Negara tersebut mendesak perusahaan untuk meningkatkan pagar pembatas dan memperingatkan bahwa kegagalan dapat mengundang tindakan hukum.

"Ditegaskan kembali bahwa ketidakpatuhan terhadap persyaratan di atas akan dipandang serius dan dapat mengakibatkan konsekuensi hukum yang ketat terhadap platform Anda, pejabat yang bertanggung jawab, dan pengguna di platform yang melanggar hukum, tanpa pemberitahuan lebih lanjut," perintah tersebut memperingatkan. Pemerintah India juga telah memperingatkan X bahwa jika gagal mematuhi arahannya, negara tersebut memiliki kekuatan untuk memulai tindakan hukum terhadap platform berdasarkan hukum TI India dan undang-undang pidana.

India telah muncul sebagai salah satu pasar digital terbesar, dengan negara tersebut dipandang sebagai kasus uji kritis untuk seberapa jauh pemerintah bersedia mendorong untuk meminta pertanggungjawaban platform atas konten yang dihasilkan AI. Jika penegakan diperketat di negara tersebut, hal itu dapat memiliki efek riak bagi perusahaan teknologi global yang beroperasi di yurisdiksi lain. Perintah tersebut juga muncul saat X terus menantang aturan regulasi konten India di pengadilan.

Platform tersebut berpendapat bahwa kekuasaan penghapusan pemerintah federal berisiko melampaui batas, meskipun platform telah mematuhi sebagian besar arahan pemblokiran yang diajukan oleh negara tersebut. Pada saat yang sama, Grok telah membantu pengguna di X, dengan sebagian besar pengguna menggunakan platform untuk pemeriksaan fakta waktu nyata dan komentar tentang peristiwa global, membuat outputnya lebih terlihat dan lebih sensitif secara politik daripada alat AI mandiri.

Jangan hanya membaca berita kripto. Pahami itu. Berlangganan newsletter kami. Gratis.