Paus Leo XIV memperingatkan risiko AI terhadap perilaku manusia dan keterhubungan dalam Hari Komunikasi Sedunia

Paus Leo XIV telah memperingatkan tentang bahaya kecerdasan buatan terhadap perilaku dan koneksi manusia. Beliau mencatat bahwa model AI dapat merebut identitas dan hubungan manusia, memengaruhi opini publik, dan memperdalam polarisasi sosial.

Komentar ini muncul saat banyak model kecerdasan buatan menghadapi kritik sejak awal tahun. Yang paling mencolok adalah chatbot xAI Grok, yang menghadapi kritik atas penggunaannya untuk membuat gambar deepfake yang tidak pantas dari wanita dan anak-anak.

Negara-negara di seluruh dunia telah mengeluarkan perintah tetap kepada platform untuk memperbaiki chatbot-nya, dengan beberapa bahkan menangguhkan penggunaannya di negara mereka sambil meminta Elon Musk untuk membuat perlindungan guna memperbaiki masalah tersebut.

Paus Leo XIV menyoroti bahaya AI bagi manusia

Dalam pesannya menandai Hari Komunikasi Sosial Sedunia, paus menyebutkan bahwa sistem AI dapat mencerminkan bagaimana penciptanya melihat dunia. Beliau menyebutkan bahwa mereka juga dapat membentuk pola pikir dengan mereproduksi bias yang tertanam dalam data yang mereka proses. "Tantangannya adalah masalah melindungi identitas manusia dan hubungan yang autentik," kata paus tersebut.

Peringatan Paus Leo XIV juga datang saat AI generatif terus membuat lompatan besar menuju replikasi. Model-model tersebut sekarang digunakan untuk membuat gambar, musik, dan teks hingga tingkat di mana terkadang tidak dapat dibedakan dari karya buatan manusia.

Pada tahun 2023, pendahulunya, Paus Fransiskus, menjadi subjek beberapa gambar AI palsu yang viral. Dalam beberapa gambar, beliau mengenakan jaket puffer putih alih-alih jubah biasanya, sementara di gambar lain, beliau diubah dengan beberapa cara.

Sejak itu, AI generatif telah menjadi alat andalan bagi beberapa tokoh terkenal, termasuk Presiden Amerika Serikat Donald Trump, yang telah menghasilkan dan memposting beberapa gambar yang dihasilkan AI ke akun online-nya.

Dalam pidatonya, Paus Leo XIV memperingatkan bahwa hanya sejumlah kecil perusahaan yang memegang kekuatan signifikan atas pengembangan AI, dan bahwa alat AI sekarang meningkatkan kesulitan membedakan karya yang dibuat oleh manusia dan yang dibuat menggunakan model.

Paus mendesak pemimpin teknologi untuk memperhatikan risiko AI

Ini bukan pertama kalinya Paus Leo XIV memperingatkan populasi global tentang risiko dan bahaya yang terkait dengan kecerdasan buatan. Sejak beliau terpilih sebagai Paus Mei lalu sebagai paus pertama dari Amerika Serikat, beliau secara konsisten memperingatkan tentang pengaruh teknologi AI yang semakin besar.

Pada November, beliau mendesak para pemimpin di industri teknologi untuk membangun model kecerdasan buatan yang menghormati martabat manusia.

Beliau menyoroti bahwa pengembangan AI adalah bagian dari perjuangan yang lebih besar tentang siapa kita menjadi ketika kita membangun sistem yang belajar, memutuskan, dan beroperasi dalam skala global.

"Inovasi teknologi dapat menjadi bentuk partisipasi dalam tindakan penciptaan ilahi. Ini membawa bobot etis dan spiritual, karena setiap pilihan desain mengekspresikan visi kemanusiaan," kata Paus pada saat itu. Beliau menyerukan kepada pembuat AI untuk menciptakan model yang menunjukkan penghormatan sejati terhadap kehidupan.

Selain menciptakan model yang menunjukkan penghormatan sejati terhadap kehidupan, Paus juga mengkritik sistem yang menyajikan probabilitas statistik sebagai pengetahuan yang dapat diandalkan, menambahkan bahwa alat-alat tersebut hanya menawarkan perkiraan. Beliau mencatat bahwa tantangan ke depan adalah menetapkan tata kelola yang efektif dan menyerukan negara-negara untuk mendidik kaum muda tentang bagaimana algoritma memengaruhi persepsi realitas.

Paus juga mengecam peningkatan penggunaan AI dalam aplikasi militer, memperingatkan untuk tidak mendelegasikan keputusan hidup dan mati kepada mesin.

Klaim kursi gratis Anda di komunitas perdagangan kripto eksklusif - terbatas untuk 1.000 anggota.