Insinyur perangkat lunak mengatakan OpenClaw mengirim spam ratusan pesan

Chris Boyd terjebak di rumahnya di North Carolina setelah badai salju ketika dia memutuskan untuk mencoba alat AI bernama OpenClaw. Dia berpikir alat itu bisa membantunya mengatur paginya. Dia mengaturnya untuk mengirim ringkasan berita ke kotak masuknya pada pukul 5:30 pagi setiap hari. Bagian itu berhasil. Kemudian dia mengizinkannya masuk ke iMessage.

Tepat setelah itu, semuanya berantakan. OpenClaw mulai mengirim pesan seperti orang gila. Ia mengirim lebih dari 500 pesan kepada dirinya, istrinya, dan bahkan orang acak di daftar kontak mereka. Boyd tidak tertawa.

Dia mematikannya, mengubah kodenya, dan berkata, "Ini bukan bug. Ini berbahaya."

Insinyur perangkat lunak mengatakan OpenClaw mengirim spam ratusan pesan

Boyd menyebut perangkat lunak itu "setengah matang" dan mengatakan itu terlihat seperti sesuatu yang disatukan tanpa banyak pemikiran. Dia memperbaiki kodenya sendiri untuk menghentikannya agar tidak menimbulkan lebih banyak kerusakan. Dia bukan satu-satunya yang mengangkat bendera tentang alat ini.

Agen AI, yang dulunya disebut Clawdbot dan kemudian Moltbot, mulai mendapatkan penggemar sejak November. Ia bisa melakukan tugas-tugas sederhana seperti membersihkan kotak masuk, memesan reservasi makan malam, dan check-in penerbangan. Ia tidak memerlukan banyak input manusia. Ia hanya berjalan. Itulah yang membuatnya menarik. Itulah juga yang membuatnya berbahaya.

Kasimir Schulz bekerja di sebuah perusahaan bernama HiddenLayer yang berfokus pada keamanan AI. Kasimir mengatakan OpenClaw adalah contoh sempurna dari apa yang dia sebut "trifecta mematikan."

Ia memiliki akses ke data pribadi, ia bisa berkomunikasi dengan dunia luar, dan ia bisa membaca konten yang tidak diketahui. Itulah resep lengkap untuk bencana, dan OpenClaw memiliki semuanya.

Yue Xiao, seorang profesor ilmu komputer di William & Mary, mengatakan Anda bisa mencuri data seseorang melalui OpenClaw dengan menipunya dengan apa yang disebut prompt injection. Itu adalah ketika seorang hacker menyembunyikan perintah di dalam apa yang tampak seperti pesan normal. Yue mengatakan teknologi semacam ini membuka pintu untuk jenis serangan baru yang kebanyakan orang belum siap menghadapinya.

Pencipta mengakui OpenClaw belum siap untuk penggunaan umum

Peter Steinberger, yang menciptakan OpenClaw, mengatakan proyeknya belum selesai. Dia mengatakan kepada Bloomberg dalam email, "Ini memang belum selesai, tetapi kami sedang menuju ke sana."

Peter mengatakan bahwa karena ini open source, siapa pun bisa melihat kodenya dan mengerjakannya. Dia mengatakan kemajuan sedang dibuat, tetapi belum siap untuk pengguna sehari-hari.

Peter tidak berpikir peluncurannya datang terlalu cepat. Dia mengatakan dia membangun semuanya secara terbuka dan tidak percaya untuk menahan sampai sempurna. Dia juga mengatakan bahwa banyak masalah berasal dari pengguna yang tidak membaca instruksi pengaturan.

Peter memperjelas bahwa tidak ada yang namanya keamanan 100 persen saat menggunakan model bahasa besar. Dia mengatakan OpenClaw dimaksudkan untuk orang-orang yang tahu apa yang mereka lakukan dan memahami risikonya.

Dia juga mengatakan prompt injection bukan hanya masalah dengan alatnya. Dia menyebutnya sebagai masalah yang ada di mana-mana di dunia AI. Peter mengatakan dia membawa ahli keamanan untuk membantu memperbaiki masalah dan membuat OpenClaw lebih aman.

Para ahli mengatakan agen AI berkembang lebih cepat daripada keamanan bisa menyusul

Sementara Peter membela cara dia membangun OpenClaw, ahli lain mengatakan seluruh tren agen AI menjadi tidak terkendali. Justin Cappos, seorang ahli keamanan siber dan profesor di NYU, mengatakan sulit untuk mengendalikan alat-alat ini begitu mereka berjalan.

Justin mengatakan, "Kami tidak mengerti mengapa mereka melakukan apa yang mereka lakukan." Dia membandingkan memberi agen AI akses ke sistem Anda dengan menyerahkan pisau daging kepada balita.

Dunia teknologi bergegas meluncurkan alat-alat baru. Claude Code dari Anthropic mencapai pendapatan $1 miliar hanya dalam enam bulan.

Sementara itu, orang-orang yang mencoba menjaga alat-alat ini tetap aman masih mencari tahu dasar-dasarnya. Justin mengatakan perusahaan-perusahaan terus-menerus merilis pembaruan, dan tim keamanan tidak bisa mengikuti.

Michael Freeman di Armis, sebuah perusahaan keamanan siber, mengatakan OpenClaw disatukan tanpa rencana keamanan yang nyata. Dia mengatakan beberapa klien Armis sudah terkena pelanggaran OpenClaw, tetapi tidak membagikan detailnya. Michael mengatakan perusahaan-perusahaan harus melepaskan beberapa kontrol jika mereka ingin terus menggunakan alat AI seperti OpenClaw.

Untuk saat ini, pertanyaannya adalah apakah orang akan tetap menggunakan OpenClaw setelah bencana ini. Alat ini memiliki penggemar, tetapi bahkan orang-orang itu menyadari bahwa kebebasan tanpa keamanan adalah masalah. Dan kecuali perubahan dibuat dengan cepat, OpenClaw mungkin menjadi contoh terbaru dari teknologi yang terlalu jauh mendahului dirinya sendiri.

Ingin proyek Anda di depan para pemikir top kripto? Tampilkan di laporan industri kami berikutnya, di mana data bertemu dampak.