Pete Hegseth diberi peringatan upayanya menundukkan perusahaan AI sesuai perintahnya akan berbalik arah

Menteri Pertahanan Pete Hegseth telah mencoba memaksa Anthropic, sebuah perusahaan kecerdasan buatan terkemuka, untuk menangguhkan aturannya sendiri tentang pembatasan penggunaan militer terhadap teknologinya — tetapi hal ini pasti akan berbalik menyerangnya, tulis dewan editorial The Washington Post.

"Menteri Pertahanan Pete Hegseth memberikan perusahaan tersebut batas waktu hingga pukul 5:01 sore pada hari Jumat untuk mengizinkan militer menggunakan model Claude secara bebas atau kehilangan kontrak pemerintah senilai $200 juta dan masuk daftar hitam sebagai 'risiko rantai pasokan,' yang akan memaksa kontraktor pertahanan untuk memutuskan hubungan dengan perusahaan tersebut juga," tulis dewan. "Yang lebih mengkhawatirkan, Hegseth mengancam akan menggunakan Undang-Undang Produksi Pertahanan untuk memaksa Anthropic menghapus pagar pembatasnya."

"Perselisihan ini menyusul kekhawatiran Anthropic tentang penggunaan rahasia produknya selama operasi berhasil menangkap Presiden Venezuela Nicolás Maduro," tulis dewan. "Hegseth ingin Anthropic memodifikasi kontraknya untuk mengizinkan 'penggunaan legal apa pun' terhadap teknologi tersebut. Anthropic bersedia menulis ulang ketentuan penggunaan saat ini tetapi tidak untuk memasukkan pengawasan massal terhadap warga Amerika atau mengakomodasi senjata yang beroperasi tanpa ada orang dalam prosesnya untuk membuat keputusan akhir. Pentagon membantah bahwa mereka memiliki rencana untuk mengawasi warga Amerika atau mengeluarkan manusia dari rantai pembunuhan."

Masalah mendasarnya, tulis dewan, adalah bahwa militer menginginkan kontrol total atas pasar bebas dan kemampuan untuk menguasai keputusan bisnis sesuka hatinya.

"Menggunakan DPA untuk mencoba mengambil alih kendali sebuah model akan menempatkan pemerintah ke dalam perairan hukum yang keruh," tulis dewan. "Anthropic dapat mengubah ini menjadi gugatan yang berlarut-larut, menciptakan ketidakpastian. Dan jika pemerintah menang, lalu apa? Pengadilan dapat memaksa kinerja, tetapi tidak dapat memaksa kinerja yang baik."

Ironisnya, simpul dewan, adalah bahwa Anthropic sekarang melonggarkan aturan keamanannya — bukan karena ancaman militer, tetapi karena tekanan pasar dan apa yang dilakukan pesaing mereka.

"Pemerintah harus memperhatikan: warga Amerika mendapat manfaat dari memiliki sebanyak mungkin perusahaan yang bersaing untuk bisnis pemerintah, bukan dengan membuat Paman Sam menjadi pelanggan yang menakutkan," simpul dewan.