Kejahatan Siber Mungkin Menjadi Satu-satunya Pekerjaan yang Tidak Diambil AI, Studi Menyarankan

Selama tiga tahun, perusahaan keamanan siber, pemerintah, dan laboratorium AI telah memperingatkan bahwa AI generatif akan melahirkan generasi baru peretas yang sangat canggih. Namun menurut sebuah makalah akademik baru yang benar-benar meneliti hal tersebut, para peretas yang "supercharged" ini sebagian besar menggunakan ChatGPT untuk menulis spam dan membuat foto telanjang untuk bersenang-senang.

Studi yang berjudul Stand-Alone Complex or Vibercrime? ini diterbitkan di arXiv oleh para peneliti dari Cambridge dan universitas lainnya, dan bertujuan untuk memahami bagaimana dunia bawah tanah kejahatan siber sebenarnya mengadopsi AI, bukan seperti yang dikatakan oleh vendor keamanan siber.

"Kami mempersembahkan di sini salah satu upaya pertama dalam studi empiris metode campuran tentang pola awal adopsi GenAI di dunia bawah tanah kejahatan siber," tulis para peneliti.

Tim tersebut menganalisis 97.895 utas forum yang diposting setelah ChatGPT diluncurkan pada November 2022, yang diambil dari dataset CrimeBB milik Cambridge Cybercrime Centre yang mencakup forum bawah tanah dan dark web. Mereka menjalankan model topik, membaca secara manual lebih dari 3.200 utas, dan membenamkan diri secara etnografis ke dalam dunia tersebut.

Kesimpulannya tidak menyenangkan bagi komunitas "AI doom": 97,3% utas dalam sampel diklasifikasikan sebagai "lainnya," artinya sebenarnya tidak membahas penggunaan AI untuk kejahatan sama sekali. Hanya 1,9% yang melibatkan seseorang yang menggunakan alat vibe coding.

'Tidak lebih dari sekadar ChatGPT tanpa batasan'

Masih ingat WormGPT, FraudGPT, dan gelombang chatbot yang diduga berbahaya yang memenuhi berita utama pada 2023? Data forum menceritakan kisah yang berbeda.

Sebagian besar postingan tentang produk "Dark AI", menurut para peneliti, adalah orang-orang yang meminta akses gratis, spekulasi kosong, dan keluhan bahwa alat tersebut tidak benar-benar berfungsi. Salah satu pengembang layanan Dark AI yang populer akhirnya mengakui kepada anggota forum bahwa produk tersebut hanyalah sebuah latihan pemasaran.

"Pada akhirnya, [CybercrimeAI] tidak lebih dari sekadar ChatGPT tanpa batasan," tulis pengembang tersebut, sebelum proyek itu ditutup. "Siapa pun di Internet dapat menggunakan teknik jailbreak yang sudah terkenal dan mencapai hasil yang sama, bahkan lebih baik."

Menjelang akhir 2024, kata para peneliti, jailbreak untuk model arus utama telah menjadi sesuatu yang bisa dibuang. Sebagian besar berhenti berfungsi dalam seminggu atau kurang. Model sumber terbuka dapat di-jailbreak tanpa batas waktu, tetapi lambat, membutuhkan banyak sumber daya, dan tidak berkembang.

"Pagar pembatas untuk sistem AI terbukti berguna dan efektif," simpul para penulis, dalam apa yang mereka sendiri sebut sebagai temuan yang berlawanan dengan intuisi untuk sebuah makalah kritis.

Vibe coding itu nyata. Vibe hacking, sebagian besar, tidak

Makalah ini secara langsung menanggapi laporan Anthropic yang banyak diliput pada Agustus 2025, yang mengklaim bahwa Claude Code telah digunakan untuk menjalankan kampanye pemerasan "vibe hacking" terhadap 17 organisasi. Data tim Cambridge sama sekali tidak menunjukkan pola tersebut di dunia bawah tanah yang lebih luas.

Di forum yang mereka pelajari, asisten coding AI digunakan dengan cara yang sama seperti pengembang arus utama menggunakannya: sebagai pengganti autocomplete dan Stack Overflow bagi para coder yang sudah terampil. Pelaku dengan keahlian rendah tetap menggunakan skrip siap pakai, karena skrip siap pakai memang berhasil.

Para peneliti menemukan bahwa bahkan peretas pun tidak mempercayai alat peretasan yang dibuat dengan vibe coding. "Coding berbantuan AI adalah pedang bermata dua. Ini akan mempercepat pengembangan tetapi juga memperbesar risiko seperti kode yang tidak aman dan kerentanan rantai pasokan," kata seorang pengguna di forum yang dipantau oleh para peneliti.

Yang lain memperingatkan tentang hilangnya keahlian jangka panjang: "Sekarang sudah jelas bahwa menggunakan AI untuk kode menyebabkan degradasi keterampilan Anda yang sangat cepat," tulis seorang peretas di forum, "Jika tujuan Anda hanya untuk menghasilkan penipuan SaaS dan Anda tidak peduli dengan kualitas/keamanan/performa kode, maka vibe code bisa saja layak. (Tampaknya juga layak untuk phishing)."

Ini sangat bertolak belakang dengan perkiraan alarmis dari Europol, yang memperingatkan pada 2025 bahwa AI yang sepenuhnya otonom suatu hari nanti bisa mengendalikan jaringan kriminal.

Di mana AI sebenarnya membantu para penjahat

Gangguan tersebut, ketika muncul, terjadi di lapisan bawah rantai makanan.

Para penipu SEO menggunakan LLM untuk memproduksi massal spam blog demi mengejar pendapatan iklan yang menurun. Penipu romansa dan operator eWhoring menambahkan kloning suara dan pembuatan gambar. Para penipu cepat kaya menghasilkan eBook yang ditulis oleh AI untuk dijual seharga $20 per buah.

Pasar paling mengkhawatirkan yang ditemukan para peneliti melibatkan layanan pembuatan gambar telanjang. Salah satu operator mengiklankan: "Saya dapat membuat foto siapa saja tanpa pakaian dengan AI… 1 Foto = $1, 10 Foto = $8, 50 Foto = $40, 90 Foto $75."

Tidak ada yang canggih dari kejahatan siber ini. Ini adalah skema margin rendah, volume tinggi yang sama yang menggerakkan industri spam selama dua dekade, kini berjalan dengan alat yang sedikit lebih baik.

Pengamatan penutup para peneliti adalah yang paling tajam. Cara terbesar AI berakhir mengganggu ekosistem kejahatan siber, mereka sarankan, mungkin bukan dengan membuat para penjahat lebih mampu. Melainkan dengan mendorong para pengembang yang di-PHK dari teknologi sah ke dunia bawah tanah untuk mencari pekerjaan.

"Dalam beberapa bulan terakhir, kekhawatiran atas gangguan pasar tenaga kerja dari alat-alat ini meningkat secara tajam," tulis makalah tersebut. "Ini mungkin akan menjadi cara paling penting di mana alat AI generatif mengganggu ekosistem kejahatan siber—PHK massal, penurunan ekonomi, dan pasar kerja yang lesu mendorong para pengembang yang lebih terampil dan sah ke komunitas bawah tanah berisi skema cepat kaya, penipuan, dan kejahatan siber."