Jaksa Agung California Rob Bonta mengirimkan surat perintah penghentian kepada xAI milik Elon Musk, menuntut agar bisnis tersebut segera menghentikan produksi dan penyebaran gambar deepfake yang menyinggung yang diproduksi oleh chatbot Grok-nya.
Jaksa Agung California merilis surat perintah penghentian pada hari Jumat sebagai tanggapan atas tuduhan bahwa Grok digunakan untuk membuat konten yang melanggar hukum yang melibatkan anak-anak dan foto-foto dewasa tanpa persetujuan, yang memicu penyelidikan negara bagian California. Bonta berargumen bahwa membuat, mendistribusikan, menerbitkan, dan menampilkan CSAM adalah ilegal.
Jaksa Agung California menargetkan xAI atas dugaan penyalahgunaan Grok
Awal minggu ini, kantor jaksa agung California menyatakan bahwa mereka sedang menyelidiki xAI karena tuduhan bahwa chatbot startup tersebut, Grok, digunakan untuk menghasilkan gambar-gambar yang tidak pantas dan tanpa persetujuan dari wanita dan anak-anak. Sebagai tanggapan, pemerintah mengirimkan surat perintah penghentian kepada perusahaan tersebut.
Kantor Jaksa Agung lebih lanjut menegaskan bahwa xAI tampaknya "memfasilitasi produksi skala besar" foto-foto yang tidak pantas dan tanpa persetujuan, yang kemudian "digunakan untuk melecehkan wanita dan anak perempuan di seluruh internet." Menurut kantor Jaksa Agung, satu penelitian menemukan bahwa lebih dari setengah dari 20.000 foto yang diproduksi oleh xAI antara Natal dan Tahun Baru menunjukkan orang-orang mengenakan pakaian yang sangat minim, beberapa di antaranya terlihat seperti anak-anak.
Rob Bonta mengklaim dalam pengumuman bahwa praktik perusahaan tersebut melanggar hukum perdata California, termasuk Kode Perdata California bagian 1708.86, Kode Pidana California bagian 311 dan seterusnya dan 647(j)(4), dan Kode Bisnis & Profesi California bagian 17200.
Departemen Kehakiman California mengantisipasi xAI akan menegaskan upayanya untuk mengatasi masalah-masalah ini dan mengambil tindakan segera untuk menyelesaikannya dalam lima hari ke depan.
Namun, akun keamanan X sebelumnya telah mengutuk jenis perilaku pengguna ini. Akun tersebut mengklarifikasi pada 4 Januari bahwa mereka mengambil tindakan terhadap konten terlarang di X, seperti CSAM, dengan menghapusnya, menangguhkan akun tanpa batas waktu, dan berkolaborasi dengan otoritas hukum dan pemerintah kota sesuai kebutuhan.
Khususnya, pada 4 Januari, Elon Musk memperingatkan bahwa siapa pun yang menggunakan atau meminta Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggahnya.
Para jaksa agung mengintensifkan tekanan pada perusahaan AI terkait keamanan anak
Peningkatan yang meresahkan dalam konten dewasa tanpa persetujuan telah dihasilkan dari pengembangan alat AI generatif gratis. Masalah ini telah mengganggu beberapa platform, bukan hanya X.
Misalnya, Jaksa Agung Bonta dan Jaksa Agung Jennings dari Delaware bertemu dengan OpenAI pada September tahun lalu untuk menyuarakan kekhawatiran serius mereka tentang meningkatnya jumlah laporan tentang bagaimana produk OpenAI berinteraksi dengan anak muda.
Pada Agustus di tahun yang sama, Jaksa Agung Bonta, bersama dengan 44 Jaksa Agung lainnya, mengirim surat kepada 12 perusahaan AI terkemuka menyusul laporan tentang interaksi yang tidak pantas antara chatbot AI dan anak-anak. Surat-surat tersebut dikirim ke Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika, dan xAI.
Jaksa Agung Bonta dan 44 Jaksa Agung lainnya menginformasikan kepada perusahaan-perusahaan dalam surat tersebut bahwa negara bagian di seluruh negeri sedang memantau dengan cermat bagaimana perusahaan mengembangkan kebijakan keamanan AI mereka. Mereka juga menekankan bahwa bisnis-bisnis ini memiliki kewajiban hukum kepada anak-anak sebagai konsumen karena mereka mendapat keuntungan dari anak-anak yang menggunakan produk mereka.
Pada tahun 2023, Jaksa Agung Bonta bergabung dengan koalisi bipartisan dari 54 negara bagian dan wilayah dalam mengirim surat kepada para pemimpin kongres yang mengadvokasi pembentukan komite ahli untuk menyelidiki potensi penggunaan AI untuk mengeksploitasi anak-anak melalui CSAM.
Koalisi tersebut meminta agar komisi ahli menyarankan undang-undang untuk melindungi anak-anak dari perlakuan buruk semacam itu. "Produksi CSAM menciptakan catatan permanen dari viktimisasi anak," menurut Departemen Kehakiman AS.
Jika Anda membaca ini, Anda sudah selangkah lebih maju. Tetaplah di sana dengan newsletter kami.
Sumber: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
