Peramban web AI membuka pintu bagi risiko keamanan yang tak terlihat

Browser AI seperti Atlas dari OpenAI dan Comet dari Perplexity menjanjikan kenyamanan. Tetapi mereka datang dengan risiko keamanan siber yang besar, membentuk arena bermain baru bagi peretas.

Browser web bertenaga AI bersaing dengan browser tradisional seperti Google Chrome dan Brave, bertujuan untuk menarik miliaran pengguna internet harian.

Beberapa hari yang lalu, OpenAI merilis Atlas, sementara Comet dari Perplexity telah ada selama beberapa bulan. Browser bertenaga AI dapat mengetik dan mengklik melalui halaman. Pengguna dapat memerintahkannya untuk memesan penerbangan, merangkum email, atau bahkan mengisi formulir.

Pada dasarnya, browser bertenaga AI dirancang untuk bertindak sebagai asisten digital dan menavigasi web secara otonom. Mereka dipuji sebagai lompatan besar berikutnya dalam produktivitas online.

Peneliti keamanan menandai kelemahan browser AI

Tetapi kebanyakan konsumen tidak menyadari risiko keamanan yang datang dengan penggunaan browser AI. Browser seperti itu rentan terhadap peretasan canggih melalui fenomena baru yang disebut prompt injection.

Peretas dapat mengeksploitasi browser web AI, mendapatkan akses ke sesi login pengguna, dan melakukan tindakan yang tidak sah. Misalnya, peretas dapat mengakses email, akun media sosial, atau bahkan melihat detail perbankan dan memindahkan dana.

Menurut penelitian terbaru oleh Brave, peretas dapat menanamkan instruksi tersembunyi di dalam halaman web atau bahkan gambar. Ketika agen AI menganalisis konten ini dan melihat instruksi tersembunyi, ia dapat ditipu untuk mengeksekusinya seolah-olah itu adalah perintah pengguna yang sah. Browser web AI tidak dapat membedakan antara instruksi pengguna asli dan palsu.

Insinyur Brave bereksperimen dengan Comet dari Perplexity dan menguji reaksinya terhadap prompt injection. Comet ditemukan memproses teks tidak terlihat yang tersembunyi dalam tangkapan layar. Pendekatan ini memungkinkan penyerang untuk mengendalikan alat penjelajahan dan mengekstrak data pengguna dengan mudah.

Insinyur Brave menyebut kerentanan ini sebagai "tantangan sistemik yang dihadapi seluruh kategori browser bertenaga AI."

Prompt injection sulit diperbaiki

Peneliti keamanan dan insinyur mengatakan bahwa prompt injection sulit diperbaiki. Itu karena model kecerdasan buatan tidak memahami dari mana instruksi berasal. Mereka tidak dapat membedakan antara prompt asli dan palsu.

Perangkat lunak tradisional dapat membedakan antara input yang aman dan kode berbahaya, tetapi model bahasa besar (LLM) kesulitan dengan itu. LLM memproses segalanya, termasuk permintaan pengguna, teks situs web, dan bahkan data tersembunyi, dan memperlakukannya sebagai satu percakapan besar.

Itulah mengapa prompt injection berbahaya. Peretas dapat dengan mudah menyembunyikan instruksi palsu di dalam konten yang terlihat aman dan mencuri informasi sensitif.

Perusahaan AI mengakui prompt injection adalah ancaman serius

Perplexity menyatakan bahwa serangan semacam itu tidak mengandalkan kode atau kata sandi yang dicuri tetapi sebaliknya memanipulasi "proses berpikir" AI. Perusahaan membangun beberapa lapisan pertahanan di sekitar Comet untuk menghentikan serangan prompt injection. Ini menggunakan model pembelajaran mesin yang mendeteksi ancaman secara real time dan telah mengintegrasikan prompt pembatas yang membuat AI tetap fokus pada maksud pengguna. Selain itu, browser mengharuskan konfirmasi wajib dari pengguna untuk tindakan sensitif seperti mengirim email atau membeli barang.

Peneliti keamanan percaya browser bertenaga AI tidak boleh dipercaya dengan akun sensitif atau data pribadi sampai peningkatan besar diluncurkan. Pengguna masih dapat menggunakan browser web AI, tetapi tanpa akses ke alat, tindakan otomatis dinonaktifkan, dan harus menghindari penggunaannya saat masuk ke akun perbankan, email, atau aplikasi kesehatan.

Chief Information Security Officer (CISO) OpenAI, Dane Stuckey, mengakui bahaya prompt injection dan menulis di X, "Salah satu risiko yang muncul yang kami teliti dan mitigasi dengan sangat hati-hati adalah prompt injection, di mana penyerang menyembunyikan instruksi berbahaya di situs web, email, atau sumber lain untuk mencoba menipu agen agar berperilaku dengan cara yang tidak diinginkan."

Dia menjelaskan bahwa tujuan OpenAI adalah membuat orang "mempercayai agen ChatGPT untuk menggunakan browser Anda, sama seperti Anda mempercayai kolega atau teman yang paling kompeten, dapat dipercaya, dan sadar keamanan." Stuckey mengatakan tim di OpenAI "bekerja keras untuk mencapai itu."

Pertajam strategi Anda dengan mentorship + ide harian - akses gratis 30 hari ke program trading kami