AI memperkuat kejahatan siber saat penipuan tumbuh lebih cepat, lebih murah, dan lebih sulit dideteksi

Penjahat siber menggunakan kecerdasan buatan untuk melancarkan skema yang lebih rumit. Mereka menargetkan segala hal mulai dari tabungan pensiun hingga rahasia perusahaan dengan metode yang semakin sulit dideteksi.

Teknologi yang sama yang menyesuaikan iklan untuk pembeli online kini digunakan oleh pelaku jahat untuk mengumpulkan detail pribadi dan meluncurkan penipuan khusus dengan cepat. Sangat cepat.

Perusahaan AI besar seperti Anthropic, OpenAI, dan Google melaporkan bahwa penjahat memanfaatkan platform mereka untuk mengatur operasi phishing yang kompleks, mengembangkan perangkat lunak berbahaya, dan melakukan berbagai serangan digital. Spesialis keamanan memperingatkan bahwa penjahat juga memproduksi klip audio dan video palsu dari pemimpin perusahaan untuk menipu karyawan agar menyerahkan informasi sensitif.

Bisnis dan kantor pemerintah mungkin akan segera menghadapi serangan dari sistem bertenaga AI yang dapat menemukan kelemahan dalam jaringan komputer dan kemudian merencanakan serta melakukan serangan dengan hampir tanpa bantuan manusia.

Teknologi ini mengubah cara penjahat beroperasi secara online. Alice Marwick memimpin penelitian di Data & Society, sebuah organisasi penelitian teknologi independen. Dia mengatakan kepada Wall Street Journal bahwa perubahan terbesar melibatkan ukuran dan jangkauan. "Perubahan sebenarnya adalah ruang lingkup dan skala. Penipuan menjadi lebih besar, lebih tertarget, lebih meyakinkan."

Brian Singer adalah mahasiswa doktoral di Carnegie Mellon University. Dia mempelajari bagaimana model bahasa besar digunakan dalam serangan siber dan pertahanan. Perkiraannya? Setengah hingga tiga perempat dari spam dan pesan phishing di seluruh dunia kini berasal dari sistem AI.

Serangan itu sendiri menjadi lebih dapat dipercaya. Sistem AI yang dilatih pada komunikasi perusahaan dapat menghasilkan ribuan pesan yang terdengar alami dan sesuai dengan gaya perusahaan. Mereka meniru cara eksekutif menulis. Mereka menyebutkan berita terkini yang ditemukan dalam catatan publik.

Teknologi ini juga membantu penipu luar negeri menyembunyikan kesalahan bahasa yang dulu membuat upaya mereka jelas terlihat. Penjahat dapat menyamar sebagai korban melalui video palsu dan suara tiruan. Mereka menggunakan identitas palsu yang sama untuk menargetkan beberapa orang sekaligus.

John Hultquist adalah kepala analis di Google Threat Intelligence Group. Dia menggambarkan perubahan utama sebagai "kredibilitas dalam skala besar."

Pelaku jahat juga semakin baik dalam memilih target. Mereka menggunakan AI untuk menelusuri media sosial dan menemukan orang yang menghadapi kesulitan hidup besar. Perceraian, kematian keluarga, kehilangan pekerjaan, dan situasi yang mungkin membuat seseorang lebih rentan terhadap trik percintaan, penipuan investasi, atau tawaran pekerjaan palsu.

Pasar dark web menurunkan hambatan masuk

Hambatan masuk untuk kejahatan siber telah turun. Pasar bawah tanah kini menjual atau menyewakan alat AI untuk pekerjaan kriminal dengan harga hanya $90 per bulan. Nicolas Christin memimpin departemen perangkat lunak dan sistem sosial Carnegie Mellon.

Dia mengatakan bahwa platform ini hadir dengan tingkat harga yang berbeda dan bantuan pelanggan. "Pengembang menjual langganan ke platform serangan dengan harga berjenjang dan dukungan pelanggan."

Layanan ini menggunakan nama seperti WormGPT, FraudGPT, dan DarkGPT. Mereka dapat membuat perangkat lunak berbahaya dan kampanye phishing. Beberapa bahkan menyertakan materi pengajaran tentang teknik peretasan.

Margaret Cunningham adalah wakil presiden keamanan dan strategi AI di Darktrace, sebuah perusahaan keamanan. Dia mengatakan ini sederhana. "Anda tidak perlu tahu cara membuat kode, cukup tahu di mana menemukan alatnya."

Ada perkembangan baru yang disebut vibe-coding atau vibe-hacking. Ini bisa memungkinkan calon penjahat menggunakan AI untuk membuat program jahat mereka sendiri daripada membelinya dari sumber bawah tanah. Anthropic mengungkapkan awal tahun ini bahwa mereka telah menghentikan beberapa upaya untuk menggunakan Claude AI mereka untuk membuat ransomware oleh "penjahat dengan keterampilan teknis yang sedikit."

Operasi kriminal itu sendiri berubah. Kejahatan siber telah bekerja seperti pasar bisnis selama bertahun-tahun sekarang, menurut para ahli. Operasi ransomware tipikal melibatkan kelompok yang berbeda. Broker akses yang membobol jaringan perusahaan dan menjual akses masuk. Tim intrusi yang bergerak melalui sistem mencuri data. Dan penyedia ransomware-as-a-service yang merilis malware, menangani negosiasi, dan membagi uang.

Kecepatan dan otomasi membentuk ulang jaringan kriminal

AI telah meningkatkan kecepatan, ukuran, dan ketersediaan sistem ini. Pekerjaan yang sebelumnya dilakukan oleh orang dengan pengetahuan teknis kini dapat berjalan secara otomatis. Ini memungkinkan kelompok-kelompok ini beroperasi dengan lebih sedikit orang, risiko lebih rendah, dan keuntungan lebih tinggi. "Anggap saja sebagai lapisan industrialisasi berikutnya. AI meningkatkan throughput tanpa memerlukan lebih banyak tenaga kerja terampil," jelas Christin.

Bisakah AI meluncurkan serangan sepenuhnya sendiri? Belum sepenuhnya. Para ahli membandingkan situasi ini dengan dorongan untuk kendaraan self-driving sepenuhnya. 95% pertama telah tercapai. Tetapi bagian akhir yang akan membiarkan mobil mengemudi di mana saja, kapan saja sendiri tetap tidak terjangkau.

Para peneliti menguji kemampuan peretasan AI di lingkungan laboratorium. Sebuah tim di Carnegie Mellon, didukung oleh Anthropic, menciptakan kembali pelanggaran data Equifax yang terkenal menggunakan AI awal tahun ini. Singer memimpin pekerjaan di Carnegie Mellon's CyLab Security and Privacy Institute. Dia menyebutnya "lompatan besar."

Penjahat mengeksploitasi AI untuk tujuan berbahaya. Tetapi perusahaan AI mengatakan alat yang sama dapat membantu organisasi memperkuat pertahanan digital mereka.

Anthropic dan OpenAI membangun sistem AI yang dapat terus memeriksa kode perangkat lunak untuk menemukan kelemahan yang mungkin dieksploitasi penjahat. Namun orang masih harus menyetujui perbaikan apa pun. Program AI terbaru yang dikembangkan oleh peneliti Stanford berkinerja lebih baik daripada beberapa penguji manusia saat mencari masalah keamanan dalam jaringan.

Bahkan AI tidak akan menghentikan semua pelanggaran. Itulah sebabnya organisasi harus fokus pada pembuatan jaringan yang tangguh yang terus bekerja selama serangan, kata Hultquist.

Jika Anda membaca ini, Anda sudah selangkah lebih maju. Tetaplah di sana dengan newsletter kami.