Pornografi AI Tanpa Persetujuan Akan Menjadikan Kita Semua Korban: Bisakah Hukum Mengimbanginya?

Artikel ini dipublikasikan bersama dengan The 19th, ruang redaksi nirlaba yang meliput gender, politik, dan kebijakan. Daftar untuk buletin The 19th di sini.

\ Lebih dari dua lusin siswa di Westfield High School di New Jersey terkejut tahun lalu ketika mengetahui bahwa gambar telanjang mereka beredar di antara teman sebaya. Menurut sekolah, beberapa siswa telah menggunakan Kecerdasan Buatan (AI) untuk membuat gambar pornografi orang lain dari foto asli. Dan mereka bukan satu-satunya remaja perempuan yang menjadi korban foto telanjang palsu: Siswa di Negara Bagian Washington dan Kanada juga melaporkan menghadapi situasi serupa karena kemampuan untuk mengubah foto secara realistis menjadi lebih mudah diakses melalui situs web dan aplikasi.

\ Kekhawatiran yang meningkat seputar deepfake—gambar atau video yang dihasilkan AI—secara umum semakin diperkuat pada bulan Januari, ketika satu yang melibatkan superstar Taylor Swift menyebar dengan cepat melalui media sosial.

\ Carrie Goldberg, seorang pengacara yang telah mewakili korban pornografi tanpa persetujuan—yang biasa disebut sebagai revenge porn—selama lebih dari satu dekade, mengatakan dia baru mulai mendengar dari korban gambar yang dihasilkan komputer baru-baru ini.

\ "Firma saya telah melihat korban deepfake mungkin sekitar lima tahun sekarang, dan sebagian besar adalah selebriti," kata Goldberg. "Sekarang, ini menjadi anak-anak melakukannya kepada anak-anak untuk bersikap jahat. Ini mungkin sangat kurang dilaporkan karena korban mungkin tidak tahu bahwa ada upaya hukum, dan tidak sepenuhnya jelas dalam semua kasus apakah ada."

\ Badan pemerintahan mencoba mengejar ketinggalan. Dalam setahun terakhir atau lebih, 10 negara bagian telah mengesahkan undang-undang untuk mengkriminalisasi pembuatan atau penyebaran deepfake secara khusus. Negara bagian ini—termasuk California, Florida, Georgia, Hawaii, Illinois, Minnesota, New York, South Dakota, Texas dan Virginia—menguraikan hukuman mulai dari denda hingga waktu penjara. Indiana kemungkinan akan segera bergabung dengan daftar yang terus bertambah dengan memperluas undang-undang saat ini tentang pornografi tanpa persetujuan.

\ Perwakilan Indiana Sharon Negele, seorang Republikan, menulis perluasan yang diusulkan. Undang-undang yang ada mendefinisikan "revenge porn" sebagai mengungkapkan gambar intim, seperti yang menggambarkan hubungan seksual, alat kelamin yang tidak tertutup, bokong atau payudara wanita, tanpa persetujuan individu yang digambarkan dalam gambar tersebut. RUU yang diusulkan Negele telah melewati kedua kamar dan sekarang menunggu tanda tangan gubernur.

\ Negele mengatakan dia termotivasi untuk memperbarui kode pidana Indiana ketika dia mendengar kisah seorang guru sekolah menengah yang menemukan bahwa beberapa siswanya telah menyebarkan gambar deepfake dirinya. Itu "sangat merusak" kehidupan pribadi guru tersebut, dan Negele terkejut melihat bahwa pelaku tidak dapat dituntut berdasarkan hukum saat ini.

\ "Itu dimulai dengan pendidikan saya untuk memahami teknologi yang sekarang tersedia dan membaca tentang insiden demi insiden wajah orang yang dilampirkan pada tubuh buatan yang terlihat sangat nyata dan realistis," kata Negele. "Ini sangat menyedihkan. Sebagai seorang ibu dan nenek dan memikirkan tentang apa yang bisa terjadi pada keluarga saya dan diri saya sendiri—ini mengejutkan. Kita harus lebih dulu menghadapi hal semacam ini."

\ Goldberg, yang firma hukumnya berspesialisasi dalam kejahatan seks, mengatakan dia mengantisipasi lebih banyak negara bagian akan terus memperluas undang-undang mereka yang ada untuk memasukkan bahasa AI.

\ "Sepuluh tahun yang lalu, hanya tiga negara bagian yang memiliki revenge porn atau undang-undang pelecehan seksual berbasis gambar," kata Goldberg. "Sekarang, 48 negara bagian telah melarang revenge porn, dan itu benar-benar menciptakan pengurangan yang luar biasa dalam revenge porn—tidak mengherankan—seperti yang kami advokat katakan. Seluruh kebangkitan deepfake telah mengisi celah sebagai cara baru untuk mempermalukan seseorang secara seksual."

\ Pada tahun 2023, lebih dari 143.000 video baru yang dihasilkan AI diposting online, menurut The Associated Press. Itu adalah lonjakan besar dari tahun 2019, ketika situs web atau aplikasi "nudify" kurang umum, dan masih ada hampir 15.000 video palsu ini online, menurut laporan dari Deeptrace Labs, sebuah perusahaan intelijen ancaman visual. Bahkan saat itu, video-video tersebut—96 persen di antaranya berisi pornografi tanpa persetujuan wanita—telah mengumpulkan lebih dari 100 juta tampilan.

\ Goldberg mengatakan pembuat kebijakan dan publik sama-sama tampaknya lebih termotivasi untuk melarang gambar telanjang yang dihasilkan AI secara khusus karena hampir siapa pun bisa menjadi korban. Ada lebih banyak empati.

\ "Dengan revenge porn, dalam gelombang diskusi pertama, semua orang menyalahkan korban dan membuat mereka tampak seperti semacam cabul karena mengambil gambar atau bodoh karena membagikannya dengan orang lain," kata Goldberg. "Dengan deepfake, Anda tidak bisa benar-benar menyalahkan korban karena satu-satunya yang mereka lakukan adalah memiliki tubuh."

\ Amanda Manyame, penasihat hak digital berbasis Afrika Selatan untuk Equality Now, sebuah organisasi hak asasi manusia internasional yang berfokus pada membantu wanita dan anak perempuan, mengatakan bahwa praktis tidak ada perlindungan bagi korban deepfake di Amerika Serikat. Manyame mempelajari kebijakan dan undang-undang di seluruh dunia, menganalisis apa yang berhasil dan memberikan nasihat hukum seputar hak digital, khususnya tentang eksploitasi dan pelecehan seksual yang difasilitasi teknologi.

\ "Kesenjangan terbesar adalah bahwa AS tidak memiliki hukum federal," kata Manyame. "Tantangannya adalah bahwa masalah ini diatur negara bagian demi negara bagian, dan secara alami, tidak ada keseragaman atau koordinasi dalam hal perlindungan."

\ Namun, saat ini ada dorongan di Capitol Hill: Sekelompok senator bipartisan memperkenalkan pada bulan Januari Undang-Undang Gangguan Gambar Palsu Eksplisit dan Pengeditan Tanpa Persetujuan tahun 2024—juga dikenal sebagai DEFIANCE Act. Undang-undang yang diusulkan bertujuan untuk menghentikan proliferasi konten tanpa persetujuan yang eksplisit secara seksual.

\ "Tidak ada seorang pun—baik selebriti maupun orang Amerika biasa—yang seharusnya harus menemukan diri mereka ditampilkan dalam pornografi AI," kata Senator Republikan Josh Hawley, salah satu sponsor RUU tersebut, dalam sebuah pernyataan. "Orang yang tidak bersalah memiliki hak untuk membela reputasi mereka dan meminta pertanggungjawaban pelaku di pengadilan." Perwakilan Alexandria Ocasio-Cortez telah memperkenalkan RUU mitra di DPR.

\ Menurut polling baru dari Data for Progress, 85 persen pemilih yang mungkin di seluruh spektrum politik mengatakan mereka mendukung DEFIANCE Act yang diusulkan—dengan 72 persen wanita sangat mendukung dibandingkan dengan 62 persen pria.

\ Tetapi pria yang lebih muda lebih cenderung menentang DEFIANCE Act, dengan sekitar satu dari lima pria di bawah 45 tahun (22 persen) mengatakan mereka sangat atau agak menentang undang-undang yang memungkinkan subjek deepfake tanpa persetujuan eksplisit untuk menuntut pembuat.

\ Danielle Deiseroth, direktur eksekutif Data for Progress, mengatakan masalah ini menunjukkan salah satu "kontras yang lebih tajam" antara pria muda dan wanita yang dia lihat dalam beberapa waktu.

\ "Kami dapat dengan percaya diri mengatakan bahwa wanita dan pria di bawah 45 tahun memiliki pendapat yang berbeda tentang kebijakan ini," kata Deiseroth. "Ini adalah masalah yang secara tidak proporsional berdampak pada wanita, terutama wanita muda, yang lebih cenderung menjadi korban revenge porn. Dan saya pikir itu benar-benar akar penyebabnya di sini."

\ Goldberg mengatakan bahwa membuat kebijakan untuk mengkriminalisasi pelaku jahat adalah awal yang baik tetapi pada akhirnya tidak cukup. Langkah selanjutnya yang baik, katanya, adalah mengambil tindakan hukum yang menargetkan distributor online, seperti App Store dan Google Play, yang menyediakan produk yang terutama digunakan untuk kegiatan kriminal. Platform media sosial dan aplikasi pesan instan, di mana gambar eksplisit ini didistribusikan, juga harus dimintai pertanggungjawaban, tambah Goldberg.

\ Para pendiri #MyImageMyChoice, sebuah organisasi akar rumput yang bekerja untuk membantu korban pelecehan gambar intim, setuju bahwa lebih banyak yang harus dilakukan oleh perusahaan swasta yang terlibat dalam pembuatan dan distribusi gambar-gambar ini.

\ Para pendiri—Sophie Compton, Reuben Hamlyn dan Elizabeth Woodward—menunjukkan bahwa mesin pencari seperti Google mendorong sebagian besar lalu lintas web total ke situs porn deepfake, sementara perusahaan kartu kredit memproses pembayaran mereka. Penyedia layanan internet membiarkan orang mengaksesnya, sementara layanan besar seperti Amazon, Cloudflare, dan Github Microsoft menjadi hostnya. Dan situs media sosial seperti X memungkinkan konten beredar dalam skala besar. Google mengubah kebijakannya pada tahun 2015 dan mulai mengizinkan korban untuk mengajukan permintaan untuk menghapus potongan konten individual dari hasil pencarian dan sejak itu memperluas kebijakan untuk pelecehan deepfake. Namun, perusahaan tidak secara sistematis menghapus daftar kekerasan seksual berbasis gambar dan situs pelecehan deepfake.

\ "Perusahaan teknologi memiliki kekuatan untuk memblokir, menghapus indeks atau menolak layanan ke situs-situs ini—situs yang seluruh keberadaannya dibangun di atas pelanggaran persetujuan dan mengambil untung dari trauma," kata Compton, Hamlyn dan Woodward dalam sebuah pernyataan kepada The 19th. "Tetapi mereka telah memilih untuk tidak melakukannya."

\ Goldberg menunjuk pada kecepatan di mana deepfake Taylor Swift menyebar. Satu gambar yang dibagikan di X, sebelumnya dikenal sebagai Twitter, dilihat 47 juta kali sebelum akun yang mempostingnya ditangguhkan. Gambar terus menyebar meskipun ada upaya dari perusahaan media sosial untuk menghapusnya.

\ "Gambar kekerasan, misoginis Taylor Swift, berdarah dan telanjang di pertandingan sepak bola Kansas City Chiefs, adalah lambang masalah," kata Goldberg. "Tingkat distribusi itu, termasuk di situs-situs yang benar-benar mainstream, mengirimkan pesan kepada semua orang bahwa tidak apa-apa untuk membuat konten ini. Bagi saya, itu adalah momen yang benar-benar penting dan cukup menakutkan."

\ Mengingat sifat profil tinggi korban, insiden tersebut memicu kemarahan yang nyata dan meluas dari penggemar Swift dan membawa perhatian publik pada masalah ini. Goldberg mengatakan dia memeriksa untuk melihat apakah ada distributor online yang telah menghapus produk dari toko online mereka yang memudahkan dan lebih murah untuk membuat deepfake eksplisit secara seksual—dan dia lega melihat mereka telah melakukannya.

\ Saat pembuat kebijakan dan pengadilan negara terus mencoba merespons teknologi yang berkembang pesat dan semakin mudah diakses, Goldberg mengatakan penting bahwa pembuat undang-undang terus menunda kepada para ahli dan mereka yang bekerja langsung dengan korban, seperti pengacara, pekerja sosial dan advokat. Pembuat undang-undang yang mengatur ide-ide abstrak atau teknologi yang berkembang pesat dapat menjadi "resep bencana" jika tidak, tambahnya.

\ Manyame juga menekankan pentingnya berbicara langsung dengan penyintas saat membuat keputusan kebijakan, tetapi menambahkan bahwa pembuat undang-undang juga perlu berpikir lebih holistik tentang masalah ini dan tidak terlalu terbebani oleh teknologi spesifik—dengan risiko selalu tertinggal. Misalnya, Manyame mengatakan masyarakat umum baru sekarang mulai memahami risiko yang ditimbulkan oleh AI dan deepfake—sesuatu yang dia bantu tulis laporan kembali pada tahun 2021. Ke depan, Manyame sudah memikirkan tentang Metaverse—ruang realitas virtual—di mana pengguna mulai bergulat dengan kasus pemerkosaan, pelecehan seksual dan pelecehan.

\ "Banyak undang-undang seputar pelecehan seksual berbasis gambar sedikit ketinggalan zaman karena mereka berbicara tentang revenge porn secara khusus," kata Manyame. "Revenge porn secara historis lebih merupakan masalah kekerasan dalam rumah tangga, karena itu adalah pasangan intim yang berbagi gambar eksploitatif seksual dari mantan atau pasangan yang ada. Itu tidak selalu terjadi dengan deepfake, jadi undang-undang ini mungkin tidak memberikan perlindungan yang cukup."

\ Selain itu, Manyame berpendapat bahwa banyak dari kebijakan ini gagal untuk memperluas definisi "gambar intim" untuk mempertimbangkan latar belakang budaya atau agama yang beragam. Untuk beberapa wanita Muslim, misalnya, mungkin sama melanggar dan memalukan untuk membuat dan menyebarkan gambar kepala mereka yang tidak tertutup tanpa hijab.

\ Ketika berbicara tentang solusi, Manyame menunjuk pada tindakan yang dapat diambil oleh pembuat aplikasi, regulator platform dan pembuat undang-undang.

\ Pada fase desain, lebih banyak tindakan keamanan dapat disematkan untuk membatasi bahaya. Misalnya, Manyame mengatakan ada beberapa aplikasi yang dapat mengambil foto wanita dan secara otomatis menghapus pakaian mereka sementara fungsi yang sama tidak bekerja pada foto pria. Ada cara di back end aplikasi ini untuk membuatnya lebih sulit untuk menghapus pakaian dari siapa pun, terlepas dari jenis kelamin mereka.

\ Namun, setelah deepfake jahat sudah dibuat dan diposting, Manyame mengatakan platform media sosial dan pesan harus memiliki mekanisme yang lebih baik untuk menghapus konten setelah korban melaporkannya. Sering kali, korban individu diabaikan. Manyame mengatakan dia telah memperhatikan perusahaan media sosial besar ini lebih cenderung menghapus deepfake ini di negara-negara, seperti Australia, yang memiliki regulator pihak ketiga untuk mengadvokasi atas nama korban.

\ "Perlu ada mekanisme pemantauan dan penegakan yang termasuk dalam solusi apa pun," kata Manyame. "Salah satu hal yang kami dengar dari banyak penyintas adalah mereka hanya ingin gambar mereka diturunkan. Ini bahkan bukan tentang melalui proses hukum. Mereka hanya ingin konten itu hilang."

\ Manyame mengatakan itu bukan permintaan yang terlalu besar untuk banyak perusahaan teknologi dan regulator pemerintah karena banyak yang sudah merespons dengan cepat untuk menghapus foto yang tidak pantas yang melibatkan anak-anak. Ini hanya masalah memperluas jenis perlindungan itu kepada wanita, tambahnya.

\ "Kekhawatiran saya adalah bahwa ada tergesa-gesa untuk menerapkan undang-undang dan kebijakan AI tanpa mempertimbangkan apa beberapa akar penyebab dari bahaya ini. Ini adalah masalah berlapis, dan ada banyak lapisan lain yang perlu ditangani."

Kredit

• Mariel Padilla untuk The 19th

Ilustrasi

• Rena Li

Penyuntingan

• Flora Peir untuk The 19th

\ Juga diterbitkan di sini

\ Foto oleh Steve Johnson di Unsplash