Komisen Eropah memulakan proses rasmi terhadap chatbot Grok AI daripada xAI/

Suruhanjaya Eropah telah membuka prosiding rasmi terhadap platform media sosial X milik Elon Musk selepas bot sembang AI-nya, Grok, didapati menghasilkan imej seksual orang sebenar tanpa kebenaran mereka, termasuk gambar kanak-kanak.

Pengguna X telah menghasilkan versi yang diedit menggunakan AI daripada gambar-gambar sebenar dengan meminta Grok menciptanya. Satu kajian yang dikeluarkan minggu lalu oleh Pusat Memerangi Kebencian Digital mendapati bahawa Grok telah menghasilkan kira-kira tiga juta imej deepfake wanita dan kanak-kanak dalam hanya beberapa hari.

Kontroversi ini telah mendorong seruan supaya dijalankan siasatan di beberapa negara. Di Ireland, sejumlah menteri kerajaan telah menutup akaun X mereka sebagai tindak balas.

Regina Doherty, ahli Parlimen Eropah dari Fine Gael, mengesahkan langkah Suruhanjaya terhadap syarikat tersebut dalam satu kenyataan yang dikeluarkan pagi ini. Beliau berkata beliau menyokong keputusan untuk memulakan siasatan rasmi.

"Apabila laporan boleh dipercayai muncul tentang penggunaan sistem AI yang merugikan wanita dan kanak-kanak, adalah penting agar undang-undang EU disiasat dan dilaksanakan tanpa berlengah," kata Doherty.

Beliau menambah bahawa kes ini menimbulkan kebimbangan serius sama ada platform-platform mematuhi tanggungjawab undang-undang mereka untuk mengesan risiko serta menghalang penyebaran bahan haram dan berbahaya.

Doherty menekankan bahawa siasatan ini perlu membawa kepada tindakan sebenar.

"Tiada syarikat yang beroperasi di EU berada di atas undang-undang," katanya.

Beliau turut menegaskan bahawa situasi ini menunjukkan masalah yang lebih besar dalam cara teknologi AI baharu dikawal selia dan dimonitori, sekali gus menyeru agar langkah-langkah tambahan diambil di peringkat EU.

"Kes ini menegaskan mengapa Akta AI mestilah sentiasa menjadi perundangan yang hidup. Jika kelemahan dalam penguatkuasaan atau pemantauan menjadi jelas, maka adalah tanggungjawab kita untuk mengatasinya. Undang-undang EU mesti boleh dikuatkuasakan secara real time apabila kemudaratan serius berlaku," kata Doherty.

Siasatan tertunda akibat krisis Greenland

Menurut sumber berita Jerman Handelsblatt, Suruhanjaya sepatutnya memulakan prosiding di bawah Akta Perkhidmatan Digital EU pada Isnin lepas, tetapi keputusan itu ditangguhkan kerana blok tersebut sedang menguruskan ancaman Presiden AS Donald Trump untuk mengambil alih Greenland.

Ini bukan kali pertama X berdepan masalah dengan pihak berkuasa EU. Pada Disember 2025, platform tersebut menerima denda €120 juta daripada EU kerana melanggar Akta Perkhidmatan Digital. Pelanggaran tersebut termasuk tanda tanduk biru yang menyesatkan, tidak bersikap telus mengenai pengiklanan, dan menghalang penyelidik daripada mengakses platform.

Pegawai pentadbiran Trump menggunakan perkataan keras terhadap denda tersebut. Menteri Luar Marco Rubio dan Naib Presiden JD Vance kedua-duanya mengkritiknya dengan hebat, menyifatkannya sebagai serangan terhadap platform teknologi Amerika.

Fokus pada penilaian risiko dan moderasi kandungan

Siasatan terbaru ini tertumpu khususnya pada sama ada X telah menilai risiko bot sembang AI-nya dengan sewajarnya dan mengambil langkah-langkah yang mencukupi untuk menghalang penciptaan serta penyebaran kandungan berbahaya. Akta Perkhidmatan Digital mengkehendaki platform online besar mengenal pasti dan menangani risiko berkaitan kandungan haram serta kemudaratan kepada pengguna.

Penghasilan pantas sejumlah besar imej tidak sesuai dalam tempoh yang begitu singkat telah menimbulkan amaran daripada para pendukung keselamatan digital dan pembuat undang-undang.

Situasi ini telah menjadi kes ujian bagaimana peraturan EU akan menangani teknologi AI yang baru muncul. Walaupun Akta AI telah diluluskan untuk mengawal sistem kecerdasan buatan, kes ini sedang dijalankan di bawah Akta Perkhidmatan Digital, yang merangkumi tanggungjawab platform online.

Siasatan ini boleh membawa kepada denda tambahan atau keperluan bagi X untuk mengubah cara Grok beroperasi. Suruhanjaya mempunyai kuasa untuk mengenakan denda sehingga enam peratus daripada pendapatan tahunan global syarikat bagi pelanggaran serius Akta Perkhidmatan Digital.

X masih belum membuat komen secara terbuka mengenai siasatan baharu ini. Cara syarikat menangani situasi ini akan diperhatikan dengan teliti kerana negara-negara lain sedang mempertimbangkan respons peraturan masing-masing. Berbilang negara sudah pun menuntut tindakan segera bagi menangani keupayaan bot sembang tersebut untuk menghasilkan imej tidak sesuai.

Jangan sekadar membaca berita kripto. Fahami ia. Langgan surat berita kami. Ia percuma.