Powell, Bessent Memperingatkan Bank Tentang Risiko Keamanan dari Mythos AI Milik Anthropic: Bloomberg

Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell dilaporkan mengadakan pertemuan dengan CEO bank-bank Wall Street awal pekan ini untuk memperingatkan tentang risiko keamanan siber yang terkait dengan model kecerdasan buatan baru dari Anthropic.

Menurut laporan Bloomberg, pertemuan tersebut melibatkan eksekutif dari Citigroup, Bank of America, Wells Fargo, Morgan Stanley, dan Goldman Sachs. Para pejabat membahas model AI baru Anthropic, Mythos, yang baru-baru ini menimbulkan kekhawatiran luas atas kemampuan keamanan siber canggihnya yang tampak.

Para pejabat mengadakan pertemuan untuk memastikan bank-bank memahami risiko yang ditimbulkan oleh sistem yang mampu mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak di sistem operasi dan browser web, serta mendorong institusi untuk memperkuat pertahanan terhadap potensi serangan siber berbantuan AI yang menargetkan infrastruktur keuangan.

Para peneliti keamanan telah memperingatkan bahwa alat yang mampu secara otomatis menemukan kerentanan dapat mempercepat pekerjaan keamanan defensif dan peretasan berbahaya jika disalahgunakan.

Model Mythos Anthropic pertama kali muncul online pada bulan Maret setelah materi draf tentang sistem tersebut bocor online, mengungkapkan apa yang dijelaskan perusahaan sebagai model AI paling canggihnya hingga saat ini. Dalam pengujian, sistem ini dilaporkan menemukan ribuan kerentanan perangkat lunak yang sebelumnya tidak diketahui, termasuk kelemahan zero-day di seluruh sistem operasi utama dan browser web.

Peneliti Anthropic mengatakan dalam laporan awal pekan ini bahwa kemampuan penemuan kerentanan Mythos Preview tidak sengaja dilatih, tetapi muncul dari perbaikan yang lebih luas dalam pengkodean, penalaran, dan otonomi model.

"Perbaikan yang sama yang membuat model jauh lebih efektif dalam menambal kerentanan juga membuatnya jauh lebih efektif dalam mengeksploitasinya," tulis perusahaan tersebut.

Karena kemampuan tersebut, Anthropic telah membatasi akses ke sekelompok kecil organisasi keamanan siber.

"Mengingat kekuatan kemampuannya, kami berhati-hati tentang cara merilisnya," kata Anthropic dalam sebuah pernyataan. "Sebagai praktik standar di seluruh industri, kami bekerja dengan sekelompok kecil pelanggan akses awal untuk menguji model. Kami menganggap model ini sebagai perubahan langkah dan yang paling mampu yang pernah kami bangun hingga saat ini."

Untuk mengatasi risiko tersebut, Anthropic menguji Mythos melalui Project Glasswing, kolaborasi dengan perusahaan teknologi dan keamanan siber besar yang menggunakan model untuk mengidentifikasi dan menambal kerentanan dalam perangkat lunak penting sebelum penyerang dapat mengeksploitasinya.

"Project Glasswing adalah titik awal. Tidak ada satu organisasi pun yang dapat menyelesaikan masalah keamanan siber ini sendirian," kata perusahaan dalam sebuah pernyataan. "Pengembang AI terdepan, perusahaan perangkat lunak lainnya, peneliti keamanan, pemelihara sumber terbuka, dan pemerintah di seluruh dunia semuanya memiliki peran penting untuk dimainkan."

Anthropic tidak segera menanggapi permintaan komentar dari Decrypt.