Google mengatakan chatbot AI-nya Gemini menghadapi "serangan distilasi" berskala besar

Chatbot AI Gemini milik Google telah menjadi target pencurian informasi skala besar, dengan penyerang membombardir sistem dengan pertanyaan untuk menyalin cara kerjanya. Satu operasi saja mengirim lebih dari 100.000 kueri ke chatbot tersebut, mencoba mengekstrak pola rahasia yang membuatnya cerdas.

Perusahaan melaporkan pada hari Kamis bahwa apa yang disebut "serangan distilasi" ini semakin memburuk. Pelaku jahat mengirim gelombang demi gelombang pertanyaan untuk memahami logika di balik respons Gemini. Tujuan mereka sederhana: mencuri teknologi Google untuk membangun atau meningkatkan sistem AI mereka sendiri tanpa menghabiskan miliaran untuk pengembangan.

Google percaya sebagian besar penyerang adalah bisnis swasta atau peneliti yang ingin maju tanpa melakukan kerja keras. Serangan datang dari seluruh dunia, menurut laporan perusahaan. John Hultquist, yang memimpin Threat Intelligence Group Google, mengatakan perusahaan kecil yang menggunakan alat AI khusus kemungkinan akan menghadapi serangan serupa segera.

Perusahaan teknologi telah menggelontorkan miliaran dolar untuk membangun chatbot AI mereka. Cara kerja internal sistem ini diperlakukan seperti permata mahkota. Bahkan dengan pertahanan yang ada untuk menangkap serangan ini, sistem AI utama tetap menjadi target mudah karena siapa pun dengan akses internet dapat berbicara dengan mereka.

Tahun lalu, OpenAI menuding perusahaan China DeepSeek, mengklaim bahwa mereka menggunakan distilasi untuk membuat modelnya lebih baik. Cryptopolitan melaporkan pada 30 Januari bahwa Italia dan Irlandia melarang DeepSeek setelah OpenAI menuduh perusahaan China tersebut menggunakan distilasi untuk mencuri model AI-nya. Teknik ini memungkinkan perusahaan menyalin teknologi mahal dengan sebagian kecil dari biayanya.

Mengapa penyerang melakukan ini?

Ekonominya brutal. Membangun model AI mutakhir membutuhkan biaya ratusan juta atau bahkan miliaran dolar. DeepSeek dilaporkan membangun model R1-nya sekitar enam juta dolar menggunakan distilasi, sementara pengembangan ChatGPT-5 mencapai dua miliar dolar, menurut laporan industri. Mencuri logika model memangkas investasi besar itu menjadi hampir tidak ada.

Banyak serangan terhadap Gemini menargetkan algoritma yang membantunya "bernalar" atau memproses informasi, kata Google. Perusahaan yang melatih sistem AI mereka sendiri pada data sensitif – seperti 100 tahun strategi perdagangan atau informasi pelanggan – sekarang menghadapi ancaman yang sama.

"Katakanlah LLM Anda telah dilatih pada 100 tahun pemikiran rahasia tentang cara Anda berdagang. Secara teoritis, Anda bisa mendistilasi sebagian dari itu," jelas Hultquist.

Peretas negara bergabung dalam perburuan

Masalahnya melampaui perusahaan yang haus uang. APT31, kelompok peretas pemerintah China yang terkena sanksi AS pada Maret 2024, menggunakan Gemini akhir tahun lalu untuk merencanakan serangan siber aktual terhadap organisasi Amerika.

Kelompok tersebut memasangkan Gemini dengan Hexstrike, alat peretasan sumber terbuka yang dapat menjalankan lebih dari 150 program keamanan. Mereka menganalisis kelemahan eksekusi kode jarak jauh, cara untuk melewati keamanan web, dan serangan injeksi SQL – semuanya ditujukan pada target AS tertentu, menurut laporan Google.

Cryptopolitan sebelumnya meliput kekhawatiran keamanan AI serupa, memperingatkan bahwa peretas mengeksploitasi kerentanan AI. Kasus APT31 menunjukkan bahwa peringatan tersebut tepat sasaran.

Hultquist menunjuk pada dua kekhawatiran utama. Musuh yang beroperasi di seluruh intrusi dengan bantuan manusia minimal, dan mengotomatiskan pengembangan alat serangan. "Ini adalah dua cara di mana musuh dapat memperoleh keuntungan besar dan bergerak melalui siklus intrusi dengan gangguan manusia yang minimal," katanya.

Jendela antara menemukan kelemahan perangkat lunak dan menempatkan perbaikan, yang disebut kesenjangan patch, bisa melebar secara dramatis. Organisasi sering membutuhkan waktu berminggu-minggu untuk menerapkan pertahanan. Dengan agen AI menemukan dan menguji kerentanan secara otomatis, penyerang bisa bergerak jauh lebih cepat.

"Kita harus memanfaatkan keuntungan AI, dan semakin menghilangkan manusia dari loop, sehingga kita dapat merespons dengan kecepatan mesin," kata Hultquist kepada The Register.

Taruhannya sangat besar. Laporan pelanggaran data IBM 2024 menemukan bahwa pencurian kekayaan intelektual sekarang menelan biaya $173 per catatan bagi organisasi, dengan pelanggaran yang berfokus pada IP melonjak 27% dari tahun ke tahun. Bobot model AI mewakili target bernilai tertinggi dalam ekonomi bawah tanah ini – satu model frontier yang dicuri dapat menghasilkan ratusan juta di pasar gelap.

Google telah menutup akun yang terkait dengan kampanye ini, tetapi serangan terus berdatangan dari "seluruh dunia," kata Hultquist. Seiring AI menjadi lebih kuat dan lebih banyak perusahaan mengandalkannya, harapkan demam emas digital ini akan semakin intensif. Pertanyaannya bukan apakah lebih banyak serangan akan datang, tetapi apakah pembela dapat mengimbanginya.

Asah strategi Anda dengan bimbingan + ide harian - akses gratis 30 hari ke program trading kami