Komisi Eropa meluncurkan proses formal terhadap chatbot AI Grok milik xAI

Komisi Eropa telah membuka proses formal terhadap platform media sosial X milik Elon Musk setelah chatbot kecerdasan buatannya Grok ditemukan memproduksi gambar seksual orang-orang nyata tanpa izin mereka, termasuk gambar anak-anak.

Pengguna X telah membuat versi foto asli yang diubah AI dengan meminta Grok membuatnya. Sebuah studi yang dirilis minggu lalu oleh Centre for Countering Digital Hate menemukan bahwa Grok membuat sekitar tiga juta gambar deepfake wanita dan anak-anak hanya dalam beberapa hari.

Kontroversi tersebut telah mendorong seruan untuk penyelidikan di beberapa negara. Di Irlandia, sejumlah menteri pemerintah telah menutup akun X mereka sebagai respons.

Regina Doherty, anggota Parlemen Eropa dari Fine Gael, mengonfirmasi langkah Komisi terhadap perusahaan tersebut dalam pernyataan yang dirilis pagi ini. Dia mengatakan mendukung keputusan untuk memulai penyelidikan formal.

"Ketika laporan yang kredibel muncul tentang sistem AI yang digunakan dengan cara yang merugikan wanita dan anak-anak, sangat penting bahwa hukum UE diperiksa dan ditegakkan tanpa penundaan," kata Doherty.

Dia menambahkan bahwa kasus ini memunculkan kekhawatiran serius tentang apakah platform mengikuti tanggung jawab hukum mereka untuk memeriksa risiko dan menghentikan penyebaran materi ilegal dan berbahaya.

Doherty menekankan bahwa penyelidikan perlu menghasilkan konsekuensi nyata.

"Tidak ada perusahaan yang beroperasi di UE yang berada di atas hukum," katanya.

Dia juga menunjukkan bahwa situasi tersebut menunjukkan masalah yang lebih besar dalam bagaimana teknologi AI baru diatur dan dipantau, meminta lebih banyak langkah diambil di tingkat UE.

"Kasus ini menggarisbawahi mengapa AI Act harus tetap menjadi bagian dari legislasi yang hidup. Jika celah dalam penegakan atau pengawasan menjadi jelas, maka menjadi tanggung jawab kita untuk mengatasinya. Hukum UE harus dapat ditegakkan secara real time ketika bahaya serius terjadi," kata Doherty.

Penyelidikan tertunda karena krisis Greenland

Menurut sumber berita Jerman Handelsblatt, Komisi telah merencanakan untuk memulai proses berdasarkan Digital Services Act UE Senin lalu, tetapi keputusan ditunda karena blok tersebut menghadapi ancaman Presiden AS Donald Trump untuk mengambil alih Greenland.

Ini bukan pertama kalinya X menghadapi masalah dengan regulator UE. Pada Desember 2025, platform tersebut menerima denda €120 juta dari UE karena melanggar Digital Services Act. Pelanggaran tersebut termasuk centang biru yang menyesatkan, tidak transparan tentang iklan, dan mencegah peneliti mengakses platform.

Pejabat pemerintahan Trump memiliki kata-kata keras tentang denda tersebut. Menteri Luar Negeri Marco Rubio dan Wakil Presiden JD Vance keduanya mengkritiknya dengan keras, menyebutnya sebagai serangan terhadap platform teknologi Amerika.

Fokus pada penilaian risiko dan moderasi konten

Penyelidikan terbaru secara khusus berfokus pada apakah X dengan benar menilai risiko chatbot AI-nya dan mengambil langkah yang cukup untuk mencegah pembuatan dan penyebaran konten berbahaya. Digital Services Act mengharuskan platform online besar untuk mengidentifikasi dan mengatasi risiko terkait konten ilegal dan bahaya bagi pengguna.

Produksi cepat dari volume besar gambar yang tidak pantas dalam periode waktu singkat membunyikan bel alarm di kalangan pendukung keamanan digital dan pembuat undang-undang.

Situasi tersebut telah menjadi kasus uji untuk bagaimana regulasi UE akan menangani teknologi AI yang muncul. Sementara AI Act telah disahkan untuk mengatur sistem kecerdasan buatan, kasus ini dikejar berdasarkan Digital Services Act, yang mencakup tanggung jawab platform online.

Penyelidikan dapat menyebabkan denda tambahan atau persyaratan bagi X untuk mengubah cara Grok beroperasi. Komisi memiliki kekuatan untuk menjatuhkan hukuman hingga enam persen dari pendapatan tahunan global perusahaan untuk pelanggaran serius terhadap Digital Services Act.

X belum memberikan komentar publik tentang penyelidikan baru tersebut. Penanganan situasi oleh perusahaan akan diawasi dengan ketat karena negara-negara lain mempertimbangkan respons regulasi mereka sendiri. Beberapa negara telah menuntut tindakan mendesak untuk mengatasi kemampuan chatbot dalam membuat gambar yang tidak pantas.

Jangan hanya membaca berita kripto. Pahami itu. Berlangganan newsletter kami. Gratis.