Jerman telah memperingatkan platform media sosial terkait penyebaran gambar palsu AI tentang holocaust. Pemerintah dan lembaga peringatan Holocaust telah meminta platform media sosial untuk menghentikan penyebaran gambar palsu, yang mereka klaim telah mendistorsi dan meremehkan sejarah.
Keprihatinan diungkapkan oleh situs peringatan kamp konsentrasi dan pusat dokumentasi dalam sebuah surat baru-baru ini, mengkritik lonjakan yang disebut AI slop atau gambar palsu, seputar pembunuhan lebih dari enam juta orang Yahudi oleh Nazi di Jerman selama Perang Dunia II. Gambar-gambar ini mencakup ilustrasi emosional dari insiden yang dibuat-buat, seperti pertemuan antara tahanan kamp konsentrasi dan pembebas mereka atau anak-anak di balik pagar kawat berduri.
Jerman ingin menghentikan penyebaran gambar palsu AI tentang holocaust
Dalam surat yang dikirim oleh organisasi-organisasi tersebut, mereka mencatat bahwa konten yang dihasilkan AI mendistorsi sejarah dengan meremehkan peristiwa serius yang terjadi sejak lama. Mereka menyebutkan bahwa gambar-gambar tersebut dapat memicu ketidakpercayaan di antara pengguna terhadap dokumen sejarah yang autentik. Wolfram Weimer, menteri negara Jerman untuk budaya dan media, menyebutkan bahwa dia mendukung langkah dan upaya yang diambil oleh lembaga peringatan dalam kasus ini, mengungkapkan bahwa itu adalah langkah yang tepat untuk diambil.
Wolfram juga menyebutkan bahwa dia mendukung keputusan mereka untuk menandai gambar yang dihasilkan AI tentang insiden kuno tersebut dan, dalam kasus yang diperlukan, menghapusnya dari platform media sosial. Dia menyebutkan bahwa ini adalah masalah penghormatan bagi jutaan orang yang dibunuh dan dianiaya di bawah rezim teror Nazi Jerman. Menurut surat lembaga peringatan, mereka mencatat bahwa pembuat gambar tersebut tampaknya menggunakannya untuk menghasilkan perhatian online dan menghasilkan uang.
Organisasi-organisasi tersebut juga menyebutkan bahwa para pelaku juga sebagian bermaksud untuk mengencerkan fakta, menggeser peran korban dan pelaku, dan menyebarkan narasi revisionis. Lembaga-lembaga tersebut termasuk pusat peringatan untuk Belsen, Buchenwald, Dachau, dan kamp konsentrasi lainnya di mana orang Yahudi, serta yang lainnya, termasuk orang-orang Roma dan Sinti, dibunuh. Mereka meminta platform media sosial untuk bertindak proaktif terhadap gambar palsu AI seputar Holocaust daripada menunggu pengguna melaporkannya.
Organisasi Holocaust menginginkan gambar yang dihasilkan AI diberi label
Selain itu, mereka meminta platform untuk memberi label dengan jelas, karena mereka percaya hal itu akan mencegah pengguna yang menghasilkan gambar tersebut untuk dapat memonetisasinya. Penyebaran AI slop berkualitas rendah, yang mencakup teks palsu, gambar, atau video, telah menimbulkan kekhawatiran di kalangan banyak ahli. Mereka percaya hal itu akan mencemari lanskap informasi dan mempersulit pengguna untuk memisahkan kebenaran dari kepalsuan. Insiden ini mengikuti insiden yang sedang dihadapi oleh perusahaan AI, terutama xAI milik Elon Musk, yang memiliki chatbot Grok.
Perusahaan tersebut telah mendapat tekanan selama beberapa minggu terakhir atas pengguna tertentu yang menghasilkan ribuan gambar deepfake bersifat seksual dari wanita dan anak di bawah umur dan menyebarkannya di beberapa platform media sosial. Ancaman ini telah membuat beberapa pemimpin negara menyerukan perusahaan tersebut untuk bertindak, dengan yang lain meminta mereka untuk mengembangkan perlindungan yang tepat untuk mengatasi insiden tersebut. Negara-negara seperti Indonesia juga telah mengumumkan larangan sementara pada chatbot tersebut hingga semua terselesaikan.
Sementara itu, platform tersebut telah mengonfirmasi bahwa mereka akan memblokir secara geografis kemampuan pengguna Grok dan X untuk menghasilkan deepfake orang-orang di lokasi di mana tindakan tersebut dianggap ilegal. Namun, masih harus dilihat apakah perlindungan baru tersebut akan berlaku untuk aplikasi mandiri atau situs webnya. Hal ini juga masih harus dilihat apakah langkah-langkah tersebut akan menghentikan pengguna dari menghasilkan jenis gambar ini atau akan mendorong mereka untuk mencari cara baru untuk mengakses layanan tersebut.
Jangan hanya membaca berita crypto. Pahami itu. Berlangganan newsletter kami. Gratis.
Sumber: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
