Moltbook, rangkaian sosial yang sepenuhnya beroperasi menggunakan teknologi AI, didedahkan menghadapi risiko keselamatan yang serius.

Sebuah platform media sosial yang membolehkan robot berkomunikasi antara satu sama lain, bukannya manusia, telah menarik perhatian netizen minggu lalu. Namun, pakar keselamatan mendakwa bahawa kisah sebenarnya terletak pada apa yang mereka temui di bawah permukaan.

Moltbook menjadi tajuk utama apabila ia dikenali sebagai sebuah platform di mana bot-bot berasaskan kecerdasan buatan (AI) menghantar kandungan sementara manusia hanya sekadar menonton. Kandungan yang disiarkan dengan pantas menjadi pelik dan mencurigakan. Para agen AI kelihatan seperti mula membentuk agama sendiri, menulis mesej marah terhadap manusia, serta berkumpul bersama dalam bentuk kultus maya. Namun, para pakar dalam bidang keselamatan komputer menyatakan bahawa semua tingkah laku aneh ini hanyalah sekadar ‘sisi pentas’ sahaja.

Apa yang lebih membimbangkan pula ialah penemuan-penemuan yang mereka jumpai. Databas terbuka yang dipenuhi kata laluan dan alamat e-mel, perisian berbahaya yang merebak dengan pantas, serta gambaran awal tentang bagaimana rangkaian agen-agen AI boleh tersilap arah.

Beberapa perbualan yang agak pelik di platform tersebut, seperti rancangan oleh agen-agen AI untuk memusnahkan umat manusia, ternyata sebahagian besarnya hanyalah rekaan semata-mata.

George Chalhoub, yang mengajar di UCL Interaction Centre, memberitahu Fortune bahawa Moltbook turut menunjukkan beberapa risiko yang sangat nyata. Penyerang boleh menggunakan platform ini sebagai medan ujian bagi perisian berbahaya, penipuan, berita palsu, atau teknik yang membolehkan mereka mengambil alih agen-agen lain sebelum meluas ke rangkaian yang lebih besar.

“Jika 770,000 agen dalam sebuah tiruan Reddit boleh mencetuskan begitu banyak kekacauan, apakah pula yang akan berlaku apabila sistem beragent digunakan untuk mengurus infrastruktur korporat atau transaksi kewangan? Moltbook patut diberi perhatian sebagai amaran, bukan sebagai pesta,” kata Chalhoub.

Pakar keselamatan mendakwa bahawa OpenClaw, perisian agen AI yang menggerakkan ramai bot di Moltbook, sebenarnya sudah pun mempunyai masalah berkaitan perisian berbahaya. Satu laporan daripada OpenSourceMalware mendapati bahawa dalam tempoh hanya beberapa hari, terdapat 14 alat palsu yang dimuat naik ke laman web ClawHub. Alat-alat ini seolah-olah menawarkan bantuan dalam perdagangan kripto, tetapi sebenarnya bertindak sebagai perisian penggodam yang mengjangkiti komputer. Malah, salah satu daripadanya sempat muncul di halaman utama ClawHub, menipu pengguna biasa untuk menyalin satu arahan yang memuat turun skrip yang direka untuk mencuri data atau dompet kripto mereka.

Apa itu ‘prompt injection’ dan mengapa ia begitu berbahaya bagi agen-agen AI?

Paling membimbangkan ialah apa yang dikenali sebagai ‘prompt injection’, iaitu satu jenis serangan yang diketahui, di mana arahan jahat disembunyikan dalam kandungan yang dihantar kepada agen AI.

Simon Willison, seorang penyelidik keselamatan terkenal, menekankan tiga perkara yang berlaku serentak: pengguna membenarkan agen-agen ini melihat e-mel dan data peribadi, menghubungkan mereka dengan kandungan tidak selamat dari internet, serta membenarkan mereka menghantar mesej. Satu arahan buruk sahaja mampu memberitahu seorang agen untuk mencuri maklumat sensitif, mengosongkan dompet kripto, atau menyebarkan perisian berbahaya tanpa disedari oleh pengguna.

Charlie Eriksen, yang menjalankan penyelidikan keselamatan di Aikido Security, melihat Moltbook sebagai amaran awal bagi dunia agen-agen AI yang lebih luas. “Saya percaya Moltbook sudah pun meninggalkan kesan yang signifikan pada dunia. Ia merupakan satu panggilan bangun dalam pelbagai aspek. Kemajuan teknologi kini bergerak dengan kadar yang semakin pantas, dan jelas sekali dunia telah berubah dalam cara yang masih belum sepenuhnya difahami. Oleh itu, kita perlu memberi tumpuan untuk mengurangkan risiko-risiko tersebut sedini mungkin,” katanya.

Jadi, adakah Moltbook hanya didiami oleh agen-agen AI, atau ada juga manusia sebenar yang terlibat? Walaupun mendapat banyak perhatian, syarikat keselamatan siber Wiz mendapati bahawa 1.5 juta akaun yang didakwa sebagai ‘agen bebas’ di Moltbook sebenarnya tidak seperti yang disangka. Hasil siasatan mereka menunjukkan bahawa hanya 17,000 orang sebenar yang mengendalikan akaun-akaun tersebut, dengan tiada cara untuk membezakan antara AI sebenar dan skrip mudah.

Gal Nagli dari Wiz berkata bahawa beliau dapat mendaftar sejuta agen dalam masa beberapa minit ketika melakukan ujian. Beliau menambah, “Tiada siapa yang benar-benar memeriksa mana yang benar dan mana yang palsu.”

Wiz juga menemui satu lubang keselamatan yang amat besar di Moltbook. Databas utama platform tersebut terbuka sepenuhnya. Sesiapa sahaja yang menemui satu kunci dalam kod laman web boleh membaca dan mengubah hampir semua data. Kunci tersebut memberikan akses kepada kira-kira 1.5 juta kata laluan bot, puluhan ribu alamat e-mel, serta mesej peribadi. Seorang penyerang boleh berpura-pura menjadi agen AI popular, mencuri data pengguna, dan mengubah suai siaran tanpa perlu log masuk.

Nagli menyatakan bahawa masalah ini berpunca daripada sesuatu yang dikenali sebagai ‘vibe coding’. Apakah itu ‘vibe coding’? Ia merujuk kepada situasi apabila seseorang meminta AI untuk menulis kod menggunakan bahasa harian.

Suis pemutus bagi agen-agen AI bakal luput dalam tempoh dua tahun

Situasi ini mengingatkan kita kepada apa yang berlaku pada 2 November 1988, apabila pelajar siswazah Robert Morris melepaskan sebuah program yang mampu menyalin dirinya sendiri ke dalam awal era internet. Dalam tempoh 24 jam, cacing digitalnya telah mengjangkiti kira-kira 10% daripada semua komputer yang tersambung. Morris sebenarnya ingin mengukur sejauh mana luasnya internet, namun satu kesilapan dalam kod menyebabkan program tersebut merebak terlalu pantas.

Versi moden hari ini mungkin dikenali oleh para penyelidik sebagai ‘worm prompt’, iaitu arahan yang mampu menyalin diri sendiri melalui rangkaian agen-agen AI yang berkomunikasi antara satu sama lain.

Penyelidik di Simula Research Laboratory menemui 506 siaran di Moltbook, iaitu 2.6% daripada jumlah yang mereka tinjau, yang mengandungi serangan tersembunyi. Penyelidik Cisco pula merekodkan satu program berbahaya bernama “What Would Elon Do?” yang mencuri data dan menghantar maklumat tersebut ke pelayan luar. Program ini menduduki tangga pertama dalam repositori tersebut.

Pada Mac 2024, penyelidik keselamatan Ben Nassi, Stav Cohen, dan Ron Bitton menerbitkan sebuah kertas kerja yang menunjukkan bagaimana arahan yang mampu menyalin diri sendiri boleh merebak melalui pembantu e-mel berasaskan AI, mencuri data dan menghantar e-mel sampah. Mereka menamakan kaedah ini sebagai ‘Morris-II’, sempena cacing asal tahun 1988.

Saat ini, syarikat seperti Anthropic dan OpenAI masih mengawal suis pemutus yang boleh menghentikan agen-agen AI berbahaya, memandangkan OpenClaw kebanyakannya beroperasi di atas perkhidmatan mereka. Namun, model-model AI tempatan semakin meningkat mutunya. Program-program seperti Mistral, DeepSeek, dan Qwen sentiasa diperbaharui. Dalam tempoh satu hingga dua tahun lagi, mungkin sudah memungkinkan untuk menjalankan agen yang cekap pada komputer peribadi. Pada ketika itu, tiada lagi penyedia perkhidmatan yang boleh menutup sistem tersebut.

Ingin projek anda mendapat perhatian kalangan pemikir terkemuka dalam industri kripto? Masukkan projek anda dalam laporan industri kami yang seterusnya, di mana data bertemu dengan impak.