MANILA, Filipina – Pemerintah Filipina berupaya memblokir chatbot AI Grok di Filipina karena kemampuannya untuk membuat deepfake yang eksplisit secara seksual atau mengungkapkan gambar orang.

Dalam konferensi pers pada Kamis, 15 Januari, Sekretaris Departemen Teknologi Informasi dan Komunikasi Henry Aguda mengatakan bahwa "[Pusat Investigasi dan Koordinasi Kejahatan Siber DICT] saat ini bekerja sama dengan [Komisi Telekomunikasi Nasional] untuk melakukan pemblokiran tersebut," mengutip Grok sebagai vektor untuk pelecehan seksual online dan eksploitasi anak atau OSAEC.

Aguda menambahkan bahwa jejak Grok di negara tersebut kecil dibandingkan dengan chatbot lain seperti ChatGPT atau Claude, tetapi proses pemblokiran Grok masih memerlukan koordinasi dengan penyedia layanan internet, karena ini bukan sesuatu yang dilakukan secara otomatis menggunakan satu tombol tekan.

Putar Video

Grok dalam pengawasan

Platform media sosial X milik Elon Musk, lengan kecerdasan buatannya xAI, dan chatbot AI-nya Grok berada dalam pengawasan dari pemerintah, pengawas teknologi, dan kelompok kepentingan yang mencari akuntabilitas atas respons Grok terhadap permintaan untuk menghapus atau membuat pakaian yang lebih terbuka pada gambar orang.

Di Amerika Serikat, tiga senator Demokrat telah menyerukan Apple dan Google untuk menghapus X dan Grok dari toko aplikasi masing-masing, sementara Malaysia dan Indonesia telah melarang Grok karena konten eksplisit. Otoritas di Eropa dan Inggris Raya juga telah mengumumkan penyelidikan terhadap Grok.

Musk 'tidak mengetahui adanya gambar telanjang anak di bawah umur' yang dibuat oleh Grok

Musk, dalam sebuah postingan di X pada Rabu, 14 Januari, mengatakan dia "tidak mengetahui adanya gambar telanjang anak di bawah umur yang dihasilkan oleh Grok. Benar-benar nol."

"Jelas, Grok tidak secara spontan menghasilkan gambar, ini dilakukan hanya sesuai dengan permintaan pengguna. Ketika diminta untuk menghasilkan gambar, ini akan menolak untuk memproduksi apa pun yang ilegal, karena prinsip operasi Grok adalah mematuhi hukum negara atau negara bagian mana pun."

Musk, dalam pernyataannya, menambahkan bahwa mungkin ada contoh "peretasan adversarial terhadap prompt Grok," yang menurutnya dapat melakukan "sesuatu yang tidak terduga."

"Jika itu terjadi, kami segera memperbaiki bug tersebut," tambahnya.

– Rappler.com