Grok: X akan membatasi cara pengguna mengedit gambar orang sungguhan setelah mendapat kecaman internasional

Perusahaan AI milik Elon Musk, xAI, telah memperkenalkan langkah-langkah untuk memperketat kontrol pada fitur pembuatan gambar Grok-nya. Keputusan ini diambil setelah meningkatnya kekhawatiran tentang bagaimana pengguna di platform X mengedit foto orang-orang nyata. 

Regulator, kelompok hak asasi, dan media telah menimbulkan alarm tentang penyalahgunaan alat tersebut untuk menghasilkan pornografi deepfake tanpa persetujuan. Reaksi keras tersebut telah bulat dari Amerika hingga Eropa dan di seluruh Afrika.

Laporan dari pihak berwenang dan jurnalis yang menunjukkan Grok digunakan untuk menghasilkan konten eksplisit tanpa persetujuan mendorong xAI untuk bertindak. 

Menurut tim keamanan perusahaan, perlindungan baru sekarang memblokir semua pengguna dari mengedit gambar orang-orang nyata ke dalam pakaian terbuka seperti bikini atau pakaian dalam di yurisdiksi di mana konten tersebut melanggar hukum setempat. Langkah ini berlaku untuk semua orang, termasuk pelanggan premium.

Perubahan ini menandai pergeseran signifikan untuk Grok. Keluhan sebelumnya telah menggambarkan bagaimana pengguna dapat meminta AI untuk "membuka pakaian" atau mengubah foto untuk membuat gambar deepfake dari wanita dan anak di bawah umur. Investigasi di California mengatakan lebih dari setengah dari puluhan ribu gambar yang dihasilkan selama periode liburan baru-baru ini menunjukkan orang-orang dengan pakaian minimal, dengan beberapa tampak masih di bawah umur. Pengawasan hukum tersebut menambah bobot pada kritik.

Fitur gambar Grok xAI, kini dikontrol ketat

Dalam sebuah postingan di akun keamanan resminya, X mengatakan bahwa meskipun fitur gambar Grok sekarang dikontrol ketat, fitur tersebut belum sepenuhnya dihapus. Pembuatan dan pengeditan gambar melalui Grok akan tetap tersedia, tetapi hanya untuk pelanggan berbayar di platform X. 

Perusahaan mengatakan ini akan meningkatkan akuntabilitas dan membantu melacak penyalahgunaan. Pemblokiran geografis juga telah diperkenalkan di negara-negara di mana pembuatan tersebut ilegal, secara efektif menghentikan pengguna di wilayah tersebut dari menghasilkan konten bermasalah.

Kontrol yang diperketat belum membungkam para kritikus. Beberapa regulator dan pengawas mengatakan langkah-langkah tersebut masih kurang memadai. 

Laporan media dan pengujian investigatif menunjukkan bahwa perlindungan dapat dilewati dalam beberapa kasus. Kritikus berpendapat bahwa menempatkan kemampuan berbahaya di balik paywall tidak mencegah keberadaan mereka tetapi justru menempatkan mereka di balik dinding langganan. Yang lain mencatat bahwa aplikasi Grok mandiri dan portal web masih memungkinkan manipulasi gambar tertentu tanpa batasan yang sama.

Ada juga tekanan internasional yang melebar. Pejabat pemerintah di California, Uni Eropa, dan beberapa negara Asia semuanya telah menyuarakan kekhawatiran tentang penyalahgunaan deepfake. 

Beberapa regulator sekarang sedang mempertimbangkan atau mengejar tindakan hukum terhadap xAI dan X karena tidak berbuat cukup untuk mencegah gambar predator atau eksploitatif dibuat di platform mereka. Sebagai tanggapan, Komisi Eropa mengatakan akan menilai perlindungan baru untuk memastikan mereka benar-benar melindungi warga negara.

Episode ini terjadi di tengah perdebatan yang lebih luas tentang bagaimana mengatur AI generatif secara bertanggung jawab. Analisis terbaru kami menyoroti bahwa desain Grok yang "tanpa filter" membuatnya sangat rentan terhadap penyalahgunaan, mengubahnya menjadi alat untuk pornografi deepfake tanpa persetujuan dalam skala besar. Artikel tersebut mengeksplorasi bagaimana kombinasi perlindungan yang lemah dan model generatif yang kuat dapat dengan cepat menjadi krisis sosial dan hukum jika tidak ditangani.

Untuk saat ini, xAI mempertahankan bahwa mereka menyesuaikan Grok sebagai respons terhadap risiko yang muncul. Perusahaan telah membingkai kontrol terbaru sebagai bagian dari upaya berkelanjutan untuk bekerja dengan pengguna, regulator, dan mitra tentang keamanan. 

Tetapi tantangan yang lebih luas tetap ada: bagaimana menyeimbangkan inovasi dalam AI generatif dengan perlindungan yang kuat untuk privasi, martabat, dan hak individu. Regulator dan kelompok advokasi mengatakan ini hanyalah awal dari perjalanan hukum dan etika yang kompleks.

Postingan Grok: X untuk membatasi bagaimana pengguna mengedit gambar orang nyata setelah reaksi keras internasional pertama kali muncul di Technext.