Anthropic ‘Too Dangerous’ Mythos AI Diretas di Hari Pertama sementara White House Rencanakan Peluncuran

Kelompok kecil pengguna tanpa izin berhasil mengakses Preview Claude Mythos milik Anthropic pada hari yang sama ketika perusahaan tersebut mengumumkan peluncuran terbatasnya, menurut Bloomberg.

Insiden ini menimbulkan pertanyaan tentang kemampuan Anthropic untuk mengendalikan model yang mereka anggap terlalu berbahaya untuk dirilis ke publik.

Bagaimana Sebuah Grup Discord Bisa Masuk ke Mythos

Anggota dari saluran Discord privat yang fokus mencari model AI yang belum dirilis berhasil menebak URL endpoint Mythos secara cerdas.

Mereka membongkar pola penamaan Anthropic dengan menggunakan data yang terekspos dalam kasus kebocoran Mercor tiga minggu sebelumnya, seperti yang diberitakan Bloomberg, mengutip seseorang yang mengetahui kasus ini.

Salah satu anggota grup juga memiliki kredensial evaluasi resmi karena bekerja sebagai kontraktor untuk vendor Anthropic. Kredensial ini, dikombinasikan dengan tebakan URL tersebut, memberikan akses berkelanjutan kepada grup tersebut.

Pengguna-pengguna ini diketahui telah menjalankan Mythos secara rutin sejak mereka berhasil masuk. Tapi, mereka memilih untuk tidak menggunakan Mythos untuk permintaan yang berkaitan dengan keamanan siber dan malah memakainya untuk tugas-tugas sederhana seperti membuat website sederhana.

Anthropic sudah mengonfirmasi tengah menyelidiki laporan tersebut, namun mereka belum menemukan bukti bahwa akses tersebut meluas ke lingkungan di luar vendor saja.

Anthropic pernah menyampaikan bahwa Mythos bisa mengidentifikasi dan mengeksploitasi celah zero-day di seluruh sistem operasi dan web browser utama.

Melalui Project Glasswing, perusahaan ini membatasi akses Mythos hanya kepada sekitar 40 organisasi yang telah disetujui, termasuk Apple, Amazon, dan Cisco, khusus untuk pengujian keamanan defensif.

Gedung Putih Dorong Akses Federal Meski Pentagon Melarang

Pembobolan ini terjadi di tengah langkah Gedung Putih untuk memperluas akses Mythos ke lembaga federal sipil. Office of Management and Budget mengirim email kepada para pejabat Kabinet pada 15 April yang menguraikan rencana untuk merilis versi model yang diamankan.

Langkah ini adalah kebalikan dari keputusan di awal tahun, saat Pentagon menyebut Anthropic “risiko rantai pasokan” setelah perusahaan itu menolak melepas fitur keamanan untuk penggunaan militer.

Hakim federal kemudian menghentikan larangan lebih luas setelah adanya gugatan dari Anthropic.

CEO Anthropic, Dario Amodei, bertemu dengan pejabat Gedung Putih pada 17 April dan kedua pihak menyebut pembicaraan mereka “produktif.”

Meski Pentagon memasukkan Mythos dalam daftar hitam, NSA sudah mulai memakai Mythos untuk memindai kerentanan, menurut laporan Axios.