Di Balik Krisis Pornografi Deepfake Grok dan Konsekuensi Hukum yang Menanti

Sebuah krisis diam-diam sedang tumbuh di seluruh media sosial. Ini didorong oleh kecerdasan buatan generatif dan dipicu oleh pelaku jahat yang tahu persis bagaimana mengeksploitasi titik terlemahnya.

Di pusat badai adalah Grok, chatbot yang dikembangkan oleh xAI milik Elon Musk. Dipasarkan sebagai "tanpa filter" dan lebih permisif daripada pesaingnya, Grok telah menjadi alat pilihan bagi pengguna yang membuat pornografi deepfake tanpa persetujuan, atau NCDP.

Prosesnya sangat sederhana dan mengganggu. Sebuah foto normal diunggah. AI diminta untuk "membuka pakaian" subjek. Hasilnya adalah gambar seksual yang dibuat tanpa persetujuan. Korbannya bisa jadi selebriti global, individu pribadi, atau bahkan anak-anak.

Ini bukan perilaku pinggiran. Ini terjadi dalam skala besar.

Meskipun kontroversi ini telah berlangsung cukup lama, dengan kembang api hukum sudah dalam perjalanan di seluruh Eropa. Ini menguat pada hari Rabu setelah seorang influencer Nigeria dan bintang reality TV, Anita Natacha Akide, yang populer dikenal sebagai Tacha, secara publik menyinggung Grok di X.

Dalam postingan langsung, dia menyatakan dengan jelas bahwa dia tidak mengizinkan foto atau videonya diedit, diubah, atau diremix dalam bentuk apa pun.

Permintaannya tidak menghentikan pengguna. Dalam beberapa jam, yang lain menunjukkan bahwa Grok masih bisa diminta untuk memanipulasi gambarnya.

Insiden tersebut mengungkapkan masalah yang lebih dalam. Pernyataan persetujuan tidak berarti banyak ketika platform tidak memiliki perlindungan yang dapat ditegakkan. Ini juga menimbulkan pertanyaan hukum dan etika serius yang jauh melampaui satu influencer atau satu alat AI.

Untuk memahami implikasinya, saya berbicara dengan Senator Ihenyen, seorang pengacara teknologi dan penggemar AI, dan Lead Partner di Infusion Lawyers. Penilaiannya sangat tegas.

Dia menggambarkan situasi Grok sebagai "epidemi digital." Dengan kata-katanya, AI generatif sedang dipersenjatai oleh pengguna nakal yang memahami cara mendorong sistem tanpa filter melewati batas etika. Bahayanya, katanya, nyata, invasif, dan sangat predator.

Yang penting, Ihenyen menolak gagasan bahwa teknologi baru ada dalam kekosongan hukum. Hukum, menurutnya, sudah mulai mengejar.

Di Nigeria, mungkin belum ada Undang-Undang AI tunggal. Namun, itu tidak berarti korban tidak terlindungi. Sebaliknya, ada apa yang dia sebut sebagai perisai hukum berlapis-lapis.

Di jantung ini adalah Undang-Undang Perlindungan Data Nigeria tahun 2023. Berdasarkan Undang-Undang tersebut, wajah, suara, dan kemiripan seseorang diklasifikasikan sebagai data pribadi. Ketika sistem AI memproses data ini, mereka tunduk pada aturan ketat.

Senator Ihenyen, Lead Partner di Infusion Lawyers dan Executive Chair dari Virtual Asset Service Providers Association

Korban memiliki hak untuk menolak pemrosesan otomatis yang menyebabkan kerugian. Ketika deepfake seksual dibuat, AI sedang memproses data pribadi sensitif. Itu memerlukan persetujuan eksplisit. Tanpa itu, platform dan operator berada dalam posisi hukum yang goyah.

Ada juga faktor pencegah finansial. Keluhan dapat diajukan ke Komisi Perlindungan Data Nigeria. Sanksi dapat mencakup biaya perbaikan hingga ₦10 juta atau dua persen dari pendapatan kotor tahunan perusahaan.

Untuk platform global, itu mendapat perhatian dengan cepat.

Grok: pembuat pornografi deepfake tanpa persetujuan bertanggung jawab

Pengguna yang membuat gambar juga tidak terlindungi. Berdasarkan Undang-Undang Kejahatan Siber Nigeria, yang diubah pada tahun 2024, beberapa pelanggaran mungkin berlaku. Menggunakan AI untuk membuka pakaian atau menyeksualkan seseorang untuk melecehkan atau mempermalukan mereka dapat dianggap sebagai cyberstalking. Mensimulasikan kemiripan seseorang untuk tujuan jahat dapat merupakan pencurian identitas.

Ketika anak di bawah umur terlibat, hukumnya tidak kompromi. Materi pelecehan seksual anak yang dihasilkan AI diperlakukan sama dengan fotografi fisik. Tidak ada pembelaan berdasarkan kebaruan, humor, atau eksperimen. Ini adalah pelanggaran kriminal serius.

Baca juga: xAI mengumpulkan $20 miliar dalam Seri E yang oversubscribed saat Nvidia dan Cisco menempatkan taruhan strategis

Bagi korban, jalur hukum bisa terasa luar biasa. Ihenyen merekomendasikan pendekatan praktis, langkah demi langkah.

Pertama adalah pemberitahuan penghapusan formal. Berdasarkan Kode Praktik NITDA Nigeria, platform seperti X diharuskan memiliki perwakilan lokal. Setelah diberitahu, mereka harus bertindak cepat. Kegagalan untuk melakukannya berisiko kehilangan perlindungan safe harbour dan membuka pintu untuk gugatan langsung.

Deepfake

Kedua adalah pertahanan berbasis teknologi. Alat seperti StopNCII memungkinkan korban untuk membuat sidik jari digital dari gambar. Ini membantu platform memblokir distribusi lebih lanjut tanpa memaksa korban untuk berulang kali mengunggah konten berbahaya.

Ketiga adalah eskalasi regulasi. Melaporkan ke platform tidak cukup. Melaporkan ke regulator penting. Otoritas dapat memaksa perusahaan untuk menonaktifkan fitur AI tertentu jika secara konsisten disalahgunakan.

Masalah ini tidak berhenti di perbatasan.

Banyak pelaku beroperasi dari luar Nigeria. Menurut Ihenyen, ini bukan lagi hambatan seperti dulu. Konvensi Malabo, yang mulai berlaku pada tahun 2023, memungkinkan bantuan hukum timbal balik di seluruh negara Afrika. Lembaga penegak hukum dapat berkolaborasi untuk melacak dan menuntut pelanggar, terlepas dari lokasi.

Itu meninggalkan pertanyaan yang paling tidak nyaman. Mengapa alat seperti Grok diizinkan untuk berfungsi dengan cara ini?

xAI membingkai desain Grok sebagai komitmen terhadap keterbukaan. Ihenyen melihat gambaran yang berbeda. Dari perspektif hukum, "tanpa filter" bukanlah pembelaan. Ini adalah risiko; itu tidak bisa menjadi alasan untuk bahaya atau ilegalitas.

Dia menarik analogi sederhana. Anda tidak bisa membuat mobil tanpa rem dan menyalahkan pengemudi atas kecelakaan. Merilis sistem AI tanpa kontrol keselamatan yang kuat, kemudian bertindak terkejut ketika kerugian terjadi, dapat dianggap sebagai kelalaian.

Berdasarkan undang-undang perlindungan konsumen Nigeria, produk yang tidak aman menarik tanggung jawab. Kebijakan AI nasional yang diusulkan juga menekankan "keselamatan dengan desain." Arah perjalanan jelas.

Inovasi AI bukanlah masalahnya. AI yang tidak bertanggung jawab adalah masalahnya.

Kontroversi Grok adalah tembakan peringatan. Ini menunjukkan seberapa cepat alat yang kuat dapat digunakan melawan orang, terutama wanita dan anak-anak. Ini juga menunjukkan bahwa persetujuan, martabat, dan hak pribadi harus dibangun ke dalam teknologi, bukan ditambahkan setelah kerugian terjadi.

Postingan Di dalam krisis pornografi deepfake Grok dan perhitungan hukum yang akan datang pertama kali muncul di Technext.