AI Membuat Kejahatan Siber Lebih Mudah Bagi Penjahat yang Tidak Canggih

Selama beberapa waktu, model bisnis dari segelintir jenius penjahat siber yang menciptakan malware canggih seperti ransomware adalah menawarkan malware dan layanan mereka kepada penjahat siber yang kurang canggih di Dark Web, terkadang bahkan menyediakan sistem pengiriman sebagai imbalan umumnya untuk persentase dari tebusan yang diterima. Namun, AI telah dengan cepat mengubah model ini karena bahkan penjahat yang kurang canggih mampu memanfaatkan kecerdasan buatan untuk melakukan berbagai penipuan.

Alat AI dapat mengumpulkan sejumlah besar data dari media sosial dan sumber yang tersedia untuk umum untuk memungkinkan penjahat siber membuat email phishing yang ditargetkan secara khusus yang disebut email spear phishing yang lebih mungkin dipercaya oleh target korban mereka, sering kali memikat mereka untuk memberikan informasi pribadi yang dapat menyebabkan pencurian identitas atau melakukan pembayaran dengan dalih tertentu.

Teknologi deepfake video dan kloning suara yang mudah didapat telah memungkinkan penjahat siber melakukan berbagai penipuan termasuk penipuan kakek-nenek atau penipuan darurat keluarga dan penipuan Business Email Compromise yang di masa lalu mengandalkan taktik rekayasa sosial terutama dilakukan melalui email di mana penipu akan menyamar sebagai eksekutif perusahaan dan meyakinkan karyawan level bawah untuk mengotorisasi pembayaran sesuai arahan penipu dengan dalih tertentu. Penipuan ini, yang sebagian besar dimulai pada 2018, menyebabkan kerugian di seluruh dunia lebih dari $55 miliar antara Oktober 2023 dan Desember 2023 menurut FBI.

Sekarang dengan munculnya AI dan penggunaan teknologi deepfake dan teknologi kloning suara, para penipu telah meningkatkan taruhannya. Pada 2024, perusahaan teknik Arup kehilangan $25 juta kepada penjahat siber yang menyamar sebagai CFO perusahaan dalam panggilan video deepfake dan membujuk karyawan perusahaan untuk mentransfer uang tersebut.

Tapi keadaannya tidak seburuk yang Anda pikirkan. Jauh lebih buruk.

Anthropic, perusahaan yang mengembangkan chatbot Claude baru-baru ini merilis laporan yang merinci bagaimana chatbot-nya telah digunakan untuk mengembangkan dan melaksanakan kejahatan siber canggih. Laporan tersebut menggambarkan evolusi penggunaan AI oleh penjahat siber untuk tidak hanya menggunakan AI sebagai alat untuk mengembangkan malware, tetapi untuk menggunakannya sebagai operator aktif serangan siber, yang mereka sebut sebagai "Vibe-hacking." Laporan tersebut memberikan contoh satu penjahat siber berbasis di Inggris yang digambarkan sebagai GTG-5004 yang menggunakan Claude untuk menemukan perusahaan yang rentan terhadap serangan ransomware dengan memindai ribuan endpoint VPN untuk menemukan sistem yang rentan, menentukan cara terbaik untuk menembus jaringan perusahaan, membuat malware dengan kemampuan penghindaran untuk mencuri data sensitif, mengirimkan malware, mencuri data dan menyaring data untuk menentukan data mana yang dapat digunakan terbaik untuk memeras perusahaan yang diretas dan bahkan menggunakan psikologi untuk membuat email dengan tuntutan tebusan mereka. Claude juga digunakan untuk mencuri catatan keuangan perusahaan target untuk menentukan jumlah Bitcoin yang akan diminta sebagai ganti tidak mempublikasikan materi yang dicuri.

Dalam satu bulan GTG-5004 menggunakan Claude untuk menyerang 17 organisasi yang terlibat dalam pemerintahan, kesehatan, layanan darurat dan institusi keagamaan dengan membuat tuntutan antara $75.000 dan lebih dari $500.000

GTG-5004 kemudian mulai menjual layanan ransomware sesuai permintaan kepada penjahat siber lain di Dark Web dengan berbagai tingkat paket termasuk kemampuan enkripsi, dan metode yang dirancang untuk membantu peretas menghindari deteksi. Penting untuk dicatat bahwa laporan tersebut menunjukkan bahwa tidak seperti di masa lalu ketika penjahat yang canggih secara teknologi akan menjual atau menyewakan di Dark Web malware yang mereka buat sendiri, laporan tersebut menunjukkan bahwa "Operator ini tampaknya tidak mampu mengimplementasikan algoritma enkripsi, teknik anti-analisis atau manipulasi internal Windows tanpa bantuan Claude."

Hasilnya adalah bahwa satu penjahat siber sekarang dapat melakukan apa yang sebelumnya akan membutuhkan seluruh tim yang terampil dalam kriptografi, internal windows dan teknik penghindaran untuk membuat ransomware dan secara otomatis membuat keputusan strategis dan taktis mengenai penargetan, eksploitasi dan monetisasi serta beradaptasi dengan tindakan defensif yang dihadapi. Semua ini menurunkan standar bagi penjahat yang ingin melakukan kejahatan siber.

Laporan tersebut juga merinci bagaimana kemampuan AI-nya disalahgunakan oleh operatif Korea Utara yang menggunakannya untuk mendapatkan pekerjaan jarak jauh di perusahaan teknologi. Menurut laporan tersebut, "Operasi pekerja TI Korea Utara tradisional mengandalkan individu yang sangat terampil yang direkrut dan dilatih sejak usia muda di Korea Utara. Investigasi kami mengungkapkan pergeseran fundamental: AI telah menjadi pemungkin utama yang memungkinkan operator dengan keterampilan teknis terbatas untuk berhasil menyusup dan mempertahankan posisi di perusahaan teknologi Barat."

Laporan tersebut menggambarkan bagaimana dengan menggunakan AI, operator Korea yang tidak bisa menulis kode dasar sendiri atau berkomunikasi dalam bahasa Inggris sekarang dapat berhasil lulus wawancara dan mendapatkan pekerjaan di perusahaan teknologi yang menghasilkan ratusan juta dolar setiap tahun yang mendanai program senjata Korea Utara. Membuat masalah menjadi lebih buruk, melalui AI, setiap operator dapat mempertahankan beberapa posisi pekerjaan di perusahaan teknologi Amerika yang akan mustahil tanpa penggunaan AI

Anthropic telah merespons ancaman yang mereka identifikasi dengan melarang akun yang terkait dengan operasi ini dan mengembangkan pengklasifikasi yang disesuaikan untuk secara khusus mengidentifikasi jenis aktivitas ini dan menerapkan langkah-langkah deteksi ke dalam sistem penegakan keamanan yang sudah ada. Selain itu, Anthropic membagikan temuannya dengan perusahaan lain serta komunitas keamanan dan keselamatan untuk membantu mereka mengenali dan mempertahankan diri dari ancaman yang ditimbulkan oleh penjahat yang menggunakan platform AI. Namun, ancaman penggunaan AI untuk kejahatan siber sangat besar.

Laporan Anthropic memang merupakan panggilan bangun bagi seluruh industri AI.