Paus Leo XIV mengingatkan tentang risiko AI terhadap tingkah laku manusia dan hubungan dalam Hari Komunikasi Sedunia/

Paus Leo XIV telah mengingatkan tentang bahaya kecerdasan buatan terhadap tingkah laku dan hubungan manusia. Beliau mencatat bahawa model-model AI boleh mengambil alih identiti dan hubungan manusia, mempengaruhi pendapat awam, serta memperdalam polarisasi sosial.

Komen ini muncul ketika banyak model kecerdasan buatan menerima kritikan sejak permulaan tahun ini. Yang paling ketara ialah chatbot xAI Grok, yang telah dikritik kerana digunakan untuk menghasilkan imej deepfake tidak sesuai bagi wanita dan kanak-kanak.

Negara-negara di seluruh dunia telah mengeluarkan arahan tetap kepada platform tersebut supaya memperbaiki chatbotnya, malah ada yang pergi sehingga menggantung penggunaannya di negara mereka sambil meminta Elon Musk untuk mencipta langkah-langkah keselamatan bagi menyelesaikan isu ini.

Paus Leo XIV menyorot bahaya AI terhadap manusia

Dalam pesan beliau sempena Hari Komunikasi Sosial Sedunia, Paus menyebut bahawa sistem AI boleh mencerminkan cara penciptanya melihat dunia. Beliau juga menyatakan bahawa sistem itu boleh membentuk corak pemikiran dengan mereproduksi bias yang tertanam dalam data yang diprosesnya. “Cabaran ini adalah soal melindungi identiti manusia dan hubungan yang autentik,” kata Paus.

Pengingatan Paus Leo XIV turut muncul ketika AI generatif terus membuat kemajuan pesat dalam usaha meniru. Model-model ini kini digunakan untuk menghasilkan imej, muzik, dan teks pada tahap yang kadang-kadang sukar dibezakan daripada karya buatan manusia.

Pada tahun 2023, pendahulunya, Paus Francis, menjadi subjek beberapa imej AI palsu yang viral. Dalam beberapa imej, beliau memakai jaket bulu putih bukannya jubah biasa, manakala dalam imej lain, beliau diedit dengan pelbagai cara.

Sejak itu, AI generatif telah menjadi alat pilihan bagi beberapa tokoh terkenal, termasuk Presiden Amerika Syarikat Donald Trump, yang telah menghasilkan dan memuat naik beberapa imej hasil AI ke akaun atas talian beliau.

Dalam ucapannya, Paus Leo XIV memberi amaran bahawa hanya sedikit syarikat yang memiliki kuasa besar dalam pembangunan AI, dan alat-alat AI kini semakin meningkatkan kesukaran untuk membezakan karya yang dihasilkan oleh manusia dengan karya yang dicipta menggunakan model-model tersebut.

Paus menggesa pemimpin teknologi agar mengkaji risiko AI

Ini bukan kali pertama Paus Leo XIV memberi amaran kepada penduduk dunia tentang risiko dan bahaya yang berkaitan dengan kecerdasan buatan. Sejak dilantik sebagai Paus pada Mei lalu sebagai paus pertama dari Amerika Syarikat, beliau sentiasa memberi amaran tentang pengaruh teknologi AI yang semakin meningkat.

Pada November, beliau menggesa para pemimpin industri teknologi agar membina model kecerdasan buatan yang menghormati martabat manusia.

Beliau menekankan bahawa pembangunan AI merupakan sebahagian daripada perjuangan yang lebih besar tentang siapa diri kita apabila kita membina sistem yang belajar, membuat keputusan, dan beroperasi pada skala global.

“Inovasi teknologi boleh menjadi satu bentuk penyertaan dalam tindakan penciptaan ilahi. Ia membawa beban etika dan spiritual, kerana setiap pilihan reka bentuk mencerminkan visi tentang kemanusiaan,” kata Paus ketika itu. Beliau menyeru para pembina AI agar mencipta model yang menunjukkan rasa hormat sejati terhadap kehidupan.

Selain mencipta model yang menunjukkan rasa hormat sejati terhadap kehidupan, Paus juga mengkritik sistem yang mempersembahkan kebarangkalian statistik sebagai pengetahuan yang boleh dipercayai, dengan menambah bahawa alat-alat tersebut hanya menawarkan anggaran sahaja. Beliau mencatat bahawa cabaran yang mendatang ialah menubuhkan tadbir urus yang berkesan dan menggesa negara-negara agar mendidik golongan muda tentang bagaimana algoritma mempengaruhi persepsi realiti.

Paus juga mengutuk penggunaan AI yang semakin meningkat dalam aplikasi ketenteraan, dengan memberi amaran agar tidak menyerahkan keputusan nyawa dan mati kepada mesin.

Raih tempat duduk percuma anda dalam komuniti perdagangan kripto eksklusif—terhad kepada 1,000 ahli.