Anthropic telah melaporkan apa yang dikatakannya sebagai kasus pertama yang terkonfirmasi dari serangan siber yang didukung pemerintah yang hampir seluruhnya diatur oleh AI.
Menurut blog yang diposting pada hari Kamis, perusahaan mendeteksi kampanye tersebut pada pertengahan September 2025, setelah mengamati perilaku abnormal yang terkait dengan alat Claude Code mereka.
Anthropic yakin tanpa keraguan bahwa operasi spionase tersebut dijalankan oleh kelompok peretas yang disponsori negara Tiongkok dan melibatkan infiltrasi sekitar tiga puluh target bernilai tinggi, termasuk perusahaan teknologi besar, bank, produsen bahan kimia, dan lembaga pemerintah di beberapa negara. Beberapa serangan tersebut berhasil.
Yang membuat ini berbeda dari kampanye siber sebelumnya bukan hanya siapa yang ada di baliknya, tetapi bagaimana hal itu dilaksanakan.
Sekitar 80 hingga 90 persen dari seluruh serangan dijalankan oleh AI, dengan operator manusia hanya turun tangan untuk segelintir keputusan kunci, kata Anthropic.
Peretas membobol Claude dan membuatnya berpikir bahwa ia sedang melakukan pekerjaan yang sah
Para penyerang memulai dengan membangun kerangka serangan otomatis di sekitar Claude Code, model AI milik Anthropic, dan menipunya untuk berpikir bahwa ia dipekerjakan oleh perusahaan keamanan siber yang melakukan pengujian internal.
Mereka membobol filter keamanan Claude melalui jailbreaking, taktik yang memungkinkan mereka melewati perlindungan bawaan dengan memberi AI tugas-tugas kecil bebas konteks yang tampak tidak berbahaya. Claude tidak tahu bahwa ia sedang digunakan untuk operasi ofensif karena tidak diberikan gambaran lengkap pada titik manapun.
Setelah model tersebut digunakan, operasi bergerak cepat. Claude memindai jaringan setiap target, mengidentifikasi bagian infrastruktur yang paling sensitif, dan merangkum tata letaknya untuk operator manusia. Kemudian, ia mulai mencari kerentanan dalam sistem tersebut. Menggunakan kemampuan pengkodean bawaannya, Claude menulis kode eksploit kustom, mengidentifikasi titik lemah, dan mengambil kredensial login. Kemudian ia mengambil volume besar data internal, mengaturnya berdasarkan seberapa berharga data tersebut, dan menandai akun dengan akses tinggi.
Setelah AI mendapatkan kontrol tingkat admin, ia menciptakan pintu belakang yang memberikan akses berkelanjutan ke sistem yang disusupi. Dan ketika selesai, Claude menulis laporan terperinci tentang semua yang telah dilakukannya (mencantumkan nama pengguna, sistem yang disusupi, dan kredensial) sehingga kerangka serangan dapat menggunakan informasi tersebut untuk operasi di masa depan.
Meskipun Claude sangat efisien, ia tidak sempurna. Terkadang ia membuat kata sandi atau salah mengidentifikasi data publik sebagai sensitif. Tetapi glitch tersebut jarang terjadi, dan tidak memperlambat misi secara keseluruhan. Kecepatan eksekusi AI yang luar biasa, memproses ribuan permintaan per detik, membuatnya jauh lebih unggul dari apa pun yang bisa dilakukan oleh tim manusia.
Agen AI kini melakukan pekerjaan skuad peretas elit—dengan hampir tanpa keterlibatan manusia
Kampanye ini adalah titik balik karena menunjukkan betapa AI telah maju hanya dalam satu tahun. Claude secara harfiah menjalankan loop, membuat keputusan, dan merangkai urutan kompleks tanpa perintah langsung.
Model AI ini menggunakan alat dari Model Context Protocol, memberinya akses ke perangkat lunak eksternal seperti pembobol kata sandi, pemetaan jaringan, dan pengambil data yang sebelumnya hanya dikendalikan oleh tangan manusia.
Sistem Claude kini memahami instruksi kompleks, menulis kode eksploit sendiri, dan mengelola operasi keamanan siber canggih dengan sangat sedikit panduan. Agen-agen AI ini bukan hanya membantu peretas, mereka adalah peretas. Dan mereka semakin mampu dari hari ke hari.
Setelah menemukan pelanggaran, Anthropic segera memulai investigasi selama sepuluh hari, melarang akun berbahaya satu per satu. Mereka memperingatkan organisasi yang terkena dampak, bekerja sama dengan otoritas untuk meneruskan intelijen, dan memperluas sistem deteksi mereka untuk menangkap operasi serupa di masa depan.
Tetapi perusahaan tidak berpura-pura bahwa ini adalah masalah satu kali. Tim mengatakan serangan-serangan ini hanya akan menjadi lebih umum, dan lebih mudah dilakukan. Itu karena keterampilan yang diperlukan untuk menjalankannya tidak lagi terbatas pada peretas elit. Jika seseorang dapat membobol model dan menghubungkannya ke perangkat yang tepat, mereka dapat melakukan kampanye besar tanpa memerlukan tim atau bahkan pengetahuan teknis yang mendalam.
Anthropic memperingatkan ancaman yang meningkat saat model AI berkembang melampaui pengawasan manusia
Implikasinya sangat besar, karena jika tim tanpa pendanaan mendalam atau keterampilan teknis dapat meluncurkan serangan skala nasional menggunakan sistem AI otomatis, distopia tentu sudah di depan mata kita.
Tim Intelijen Ancaman Anthropic memperingatkan bahwa meskipun mereka hanya melacak aktivitas melalui Claude, kemungkinan penyalahgunaan serupa terjadi pada model AI frontier lainnya. Mereka mengatakan ini adalah awal dari standar baru dalam perang siber.
Jadi mengapa terus merilis model dengan kemampuan ini, Anda bertanya-tanya? Anthropic berpendapat bahwa alat yang sama ini penting untuk pertahanan, dengan mengatakan bahwa "AI yang melakukan serangan juga merupakan jenis yang sama yang digunakan oleh analis Anthropic untuk menggali puing-puing, menemukan pola, dan memahami skala penuh operasi."
Mereka memang berjanji untuk meningkatkan lapisan keamanan internal model mereka, serta menyempurnakan pengklasifikasi mereka untuk deteksi serangan, dan secara terbuka mempublikasikan studi kasus seperti ini sehingga orang lain di industri dapat bersiap.
Namun, Anthropic mengatakan tidak cukup hanya mengandalkan mereka saja. Mereka mendesak semua pengembang yang bekerja pada model besar untuk berinvestasi besar-besaran dalam keamanan.
Dan mereka menyerukan tim keamanan siber untuk mulai mengintegrasikan AI ke dalam deteksi ancaman, respons insiden, pemindaian kerentanan, dan otomatisasi Pusat Operasi Keamanan, karena metode tradisional tidak cukup cepat lagi.
Jika Anda membaca ini, Anda sudah selangkah di depan. Tetaplah di sana dengan buletin kami.
Sumber: https://www.cryptopolitan.com/anthropic-china-ai%E2%80%91orchestrated-espionage/
