Seorang jurutera perisian berkata bahawa OpenClaw telah menghantar beratus-ratus mesej secara spam.

Chris Boyd terperangkap di rumahnya di North Carolina selepas satu ribut salji, lalu dia memutuskan untuk mencuba sebuah alat AI bernama OpenClaw. Dia berpendapat bahawa alat ini boleh membantu menyusun rutin paginya. Chris menetapkan agar OpenClaw menghantar ringkasan berita ke peti masuknya setiap hari pada pukul 5:30 pagi. Sebahagian daripada fungsi itu berjaya. Namun, selepas itu, Chris membenarkan OpenClaw mengakses iMessage.

Segera selepas itu, segala-galanya menjadi kacau-bilau. OpenClaw mula menghantar mesej secara berlebihan seperti orang yang hilang kawalan. Alat tersebut menghantar lebih 500 mesej kepada Chris, isterinya, malah kepada individu-individu yang tersenarai dalam senarai kenalan mereka. Chris langsung tidak ketawa.

Chris segera menutup alat itu, mengubah kodnya, dan berkata, “Ini bukan sekadar bermasalah; ia sebenarnya berbahaya.”

Jurutera Perisian Mengakui OpenClaw Telah Menghantar Beribu-ribu Mesej Secara Tidak Terkawal

Chris menggambarkan perisian tersebut sebagai “separuh siap” dan mendakwa bahawa ia kelihatan seperti sesuatu yang dibina dengan sepantas mungkin tanpa banyak pertimbangan. Chris sendiri menambahbaik kod tersebut untuk menghalangnya daripada menyebabkan lebih banyak kerosakan. Dia bukan satu-satunya orang yang menimbulkan kebimbangan tentang alat ini.

Agensi AI yang dahulunya dikenali sebagai Clawdbot dan kemudian Moltbot mula mendapat ramai pengguna sejak bulan November. Alat ini mampu melaksanakan tugas-tugas mudah seperti membersihkan peti masuk e-mel, membuat tempahan makan malam, serta semakan daftar masuk bagi penerbangan. Ia tidak memerlukan banyak input daripada manusia—ia hanya beroperasi secara automatik. Inilah yang menjadikannya menarik, tetapi juga inilah yang menjadikannya berbahaya.

Kasimir Schulz bekerja di sebuah syarikat bernama HiddenLayer yang pakar dalam keselamatan AI. Kasimir menyatakan bahawa OpenClaw merupakan contoh sempurna bagi apa yang beliau panggil “trifekta mematikan”.

OpenClaw mempunyai akses kepada data peribadi, dapat berkomunikasi dengan dunia luar, dan mampu membaca kandungan yang tidak diketahui. Ini adalah kombinasi yang cukup untuk mencetuskan bencana, dan OpenClaw memiliki semua unsur tersebut.

Yue Xiao, seorang profesor sains komputer di William & Mary, menjelaskan bahawa seseorang boleh mencuri data seseorang melalui OpenClaw dengan cara menipu alat tersebut menggunakan teknik yang dikenali sebagai “injeksi prompt”. Dalam kaedah ini, seorang penggodam akan menyembunyikan arahan di dalam mesej yang kelihatan normal. Yue menegaskan bahawa teknologi sebegini membuka pintu kepada jenis serangan baharu yang kebanyakan orang belum bersedia hadapinya.

Pencipta Mengakui OpenClaw Belum Bersedia Untuk Digunakan Secara Meluas

Peter Steinberger, pencipta OpenClaw, mengakui bahawa projek tersebut masih belum selesai. Dalam satu e-mel kepada Bloomberg, Peter menyatakan, “Projek ini masih belum siap sepenuhnya, tetapi kami sedang berusaha keras untuk menyiapkannya.”

Peter menjelaskan bahawa kerana OpenClaw bersumber terbuka, sesiapa sahaja boleh melihat kodnya dan turut sama mengembangkannya. Menurut Peter, walaupun kemajuan telah dicapai, alat ini masih belum sesuai untuk digunakan oleh pengguna harian.

Peter tidak berpendapat bahawa pelancaran OpenClaw terlalu awal. Beliau menegaskan bahawa dirinya membina semua perkara secara terbuka dan tidak percaya pada konsep menunggu sehingga sesuatu benar-benar sempurna. Peter juga menyatakan bahawa banyak masalah timbul disebabkan oleh pengguna yang tidak membaca dengan teliti panduan penyesuaian alat tersebut.

Peter jelas menyatakan bahawa tiada konsep keselamatan 100% apabila menggunakan model bahasa besar. Beliau menegaskan bahawa OpenClaw direka untuk mereka yang benar-benar memahami apa yang mereka lakukan dan mengerti risiko yang terlibat.

Peter juga menegaskan bahawa injeksi prompt bukanlah isu yang hanya wujud pada alat ciptaannya. Beliau menganggapnya sebagai masalah yang wujud di seluruh dunia AI. Peter berkata bahawa beliau telah menggajikan pakar keselamatan untuk membantu memperbaiki kelemahan dan menjadikan OpenClaw lebih selamat.

Pakar Mengatakan Bahawa Agensi AI Berkembang Lebih Cepat Daripada Kemampuan Keselamatan Menyusul

Sementara Peter mempertahankan cara beliau membina OpenClaw, pakar-pakar lain pula berpendapat bahawa trend agensi AI secara keseluruhan semakin sukar dikawal. Justin Cappos, seorang pakar keselamatan siber dan profesor di NYU, menyatakan bahawa sekali alat-alat ini beroperasi, sukar untuk mengawalnya.

Justin berkata, “Kita masih belum benar-benar memahami mengapa alat-alat ini melakukan apa yang mereka lakukan.” Beliau menggambarkan memberikan akses kepada sistem anda kepada sebuah agensi AI umpama menyerahkan sebilah pisau daging kepada seorang kanak-kanak kecil.

Dunia teknologi kini berlumba-lumba melancarkan alat-alat baharu. Claude Code daripada Anthropic mencapai paras pendapatan sebanyak $1 bilion dalam masa hanya enam bulan.

Sementara itu, para pakar yang bertanggungjawab menjaga keselamatan alat-alat ini masih lagi cuba memahami asas-asasnya. Justin menyatakan bahawa syarikat-syarikat sentiasa mengemaskini produk mereka tanpa henti, namun pasukan keselamatan tidak mampu mengikut rentak tersebut.

Michael Freeman dari Armis, sebuah firma keselamatan siber, menyatakan bahawa OpenClaw dibina secara tergesa-gesa tanpa sebarang rancangan keselamatan yang kukuh. Michael berkata bahawa beberapa pelanggan Armis sudah pun terjejas akibat pelanggaran yang melibatkan OpenClaw, namun beliau enggan mendedahkan butiran lanjut. Michael menegaskan bahawa syarikat-syarikat perlu sedikit mengorbankan kawalan jika mereka ingin terus menggunakan alat-alat AI seperti OpenClaw.

Pada masa ini, persoalan yang timbul ialah sama ada orang ramai masih akan menggunakan OpenClaw selepas tragedi ini. Walaupun alat ini masih mempunyai peminat, malah peminat-peminat tersebut pun mulai menyedari bahawa kebebasan tanpa keselamatan adalah satu masalah. Jika perubahan tidak dilakukan dengan pantas, OpenClaw mungkin akan menjadi contoh terbaru bagi teknologi yang terlalu cepat maju melebihi tahap kematangan.

Ingin projek anda dipaparkan di hadapan pemikir terkemuka dalam dunia kripto? Sertakan projek anda dalam laporan industri kami yang seterusnya, di mana data bertemu dengan impak.