Google memajukan agen AI Gemini untuk Pentagon di tengah penolakan

Agen AI Google Gemini mendukung tugas di jaringan tidak terklasifikasi Pentagon

Google akan menyediakan agen AI berbasis Gemini kepada Departemen Pertahanan AS untuk pekerjaan tidak terklasifikasi di jaringan Pentagon, menurut news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work" target="_blank" rel="nofollow noopener">Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai). Wakil Menteri Pertahanan untuk Riset & Teknik Emil Michael mengumumkan bahwa agen tersebut pada awalnya akan beroperasi di jaringan tidak terklasifikasi yang melayani lebih dari 3 juta personel departemen. Departemen juga telah menunjukkan minat untuk memperluas agen ke sistem terklasifikasi atau rahasia tingkat tinggi, tetapi fase saat ini tetap tidak terklasifikasi.

Penerapan ini dibingkai sebagai dukungan untuk tugas di jaringan tidak terklasifikasi Pentagon. Ini juga memunculkan pertanyaan tata kelola langsung ketika permintaan militer bertemu dengan pagar pengaman keselamatan yang diterapkan penyedia.

Mengapa ini penting untuk tata kelola, etika, dan operasi pertahanan

Seperti dilaporkan oleh TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai), Menteri Pertahanan telah mendesak perusahaan untuk mengizinkan penggunaan AI yang lebih luas untuk "semua tujuan yang sah," menandakan tekanan untuk melonggarkan pembatasan model. Sikap tersebut meningkatkan implikasi pengadaan, kepatuhan, dan pengawasan di seluruh alur kerja pertahanan. Penyedia dengan batasan keras mungkin menghadapi gesekan kontrak jika bahasa tampaknya memungkinkan otonomi di luar kebijakan mereka.

Karya akademis menyoroti bahwa risiko meningkat seiring otonomi agen AI meningkat dan pengawasan manusia berkurang, berdasarkan penelitian arXiv (https://arxiv.org/abs/2502.02649?utm_source=openai). Untuk operasi pertahanan, dinamika tersebut menjadikan auditabilitas, ambang eskalasi, dan penugasan akuntabilitas sebagai pusat penerapan yang aman.

Anthropic mewakili pendekatan yang kontras, menolak untuk melonggarkan pagar pengaman seputar senjata otonom sepenuhnya atau pengawasan domestik massal. "tidak bisa dengan hati nurani yang baik" mematuhi aspek-aspek tersebut, kata Dario Amodei, CEO, seperti dilaporkan oleh AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai). Sikap tersebut menggarisbawahi bagaimana kebijakan vendor dapat membatasi aplikasi pertahanan tertentu bahkan ketika penggunaan mungkin diizinkan secara hukum.

Dampak langsung dibatasi: agen AI Google Gemini terbatas pada jaringan tidak terklasifikasi Pentagon dalam fase ini. Ruang lingkup tersebut memungkinkan tim operasional untuk menilai keandalan dan kesesuaian kebijakan sebelum peluncuran yang lebih luas.

Batasan utama mencakup pagar pengaman penyedia yang melarang penggunaan tertentu dan dorongan departemen untuk mengotorisasi "semua tujuan yang sah." Langkah selanjutnya bergantung pada bahasa kontrak, tinjauan risiko, dan keselarasan antara pagar pengaman model dan kebijakan pertahanan.

Ketegangan utama: otonomi, pengawasan, dan pagar pengaman penyedia

Dorongan DoD untuk semua tujuan yang sah versus pagar pengaman keras

Seruan departemen untuk "semua tujuan yang sah" menciptakan gesekan dengan penyedia yang mempertahankan batasan keselamatan keras. Intinya adalah seberapa jauh otonomi dapat meluas sambil mempertahankan tanggung jawab dan pengawasan manusia. Ketegangan ini akan membentuk ruang lingkup, kriteria penerimaan, dan jalur eskalasi untuk agen AI.

Penolakan Anthropic terhadap senjata otonom dan risiko pengawasan massal

Anthropic telah menarik garis merah yang jelas dengan menolak penggunaan yang terkait dengan senjata otonom sepenuhnya atau pengawasan domestik massal, seperti tercermin dalam pernyataan publik kepemimpinannya. Posisi tersebut mempersempit jalur pertahanan tertentu dan memprioritaskan sistem yang dikendalikan manusia.

FAQ tentang agen AI Google Gemini

Apakah DoD akan memperluas agen AI ini dari sistem tidak terklasifikasi ke sistem terklasifikasi atau rahasia tingkat tinggi, dan pada jadwal apa?

Departemen telah menunjukkan minat untuk memperluas ke jaringan terklasifikasi atau rahasia tingkat tinggi; tidak ada jadwal publik yang telah diungkapkan.

Bagaimana penolakan Anthropic untuk melonggarkan pagar pengaman mempengaruhi pengadaan dan kebijakan AI Pentagon?

Ini mengurangi model yang memenuhi syarat dan menekan kontrak untuk mempertahankan pagar pengaman yang ketat, mempengaruhi bahasa penggunaan yang dapat diterima, harapan pengawasan, dan kemampuan mana yang dapat diadopsi Pentagon.