Ringkasan AMA Sam Altman tentang pakta kontroversial OpenAI dengan Departemen Pertahanan

Larut malam Jumat, ketika ketegangan geopolitik berkobar menjadi konflik terbuka di Timur Tengah, Sam Altman mengumumkan di X sebuah kesepakatan yang telah lama ditakuti oleh banyak orang di komunitas teknologi, namun hanya sedikit yang mengira akan terwujud secara tiba-tiba.

OpenAI secara resmi menandatangani perjanjian dengan Departemen Perang AS (DoW) untuk menerapkan model-model tercanggihnya dalam jaringan militer yang paling sensitif dan terklasifikasi.

Pengumuman tersebut langsung memicu kekacauan. Dalam hitungan menit, utas diskusi menjadi medan pertempuran tagar "Cancel ChatGPT", pertanyaan tajam dari para ahli keamanan nasional, dan tuduhan provokatif tentang pengkhianatan masa depan umat manusia.

Bagi perusahaan yang didirikan dengan prinsip memastikan AGI menguntungkan seluruh umat manusia, perubahan menjadi kontraktor pertahanan utama terasa seperti pergeseran tektonik dalam lanskap moral industri.

Konteks perubahan mendadak ini sama dramatisnya dengan kesepakatan itu sendiri. Hanya beberapa jam sebelum pengumuman Altman, Presiden Donald Trump mengeluarkan perintah eksekutif menyeluruh yang memerintahkan semua lembaga federal untuk segera menghentikan penggunaan teknologi dari Anthropic, saingan utama OpenAI.

Menteri Perang Pete Hegseth melabeli Anthropic sebagai "risiko rantai pasokan terhadap keamanan nasional", sebutan yang biasanya diperuntukkan bagi musuh asing seperti Huawei.

Anthropic dilaporkan menolak memberikan Pentagon akses tanpa syarat ke model Claude-nya, dengan bersikeras pada "garis merah" kontraktual yang akan melarang penggunaan teknologi untuk pengawasan massal domestik atau senjata mematikan yang sepenuhnya otonom.

Sam Altman, CEO OpenAI

OpenAI mengisi kekosongan yang ditinggalkan oleh kepergian saingannya. Sementara pemerintahan menuntut agar model AI tersedia untuk "semua tujuan yang sah", OpenAI membingkai keikutsertaannya bukan sebagai penyerahan diri tetapi sebagai kompromi yang canggih.

Dalam sesi Ask Me Anything (AMA)-nya, Altman menyatakan bahwa OpenAI mengamankan perlindungan keamanan yang sama yang dicari Anthropic tetapi mencapainya melalui pendekatan berlapis-lapis daripada ultimatum.

Dengan menyetujui untuk bekerja dalam kerangka hukum yang ada, mengutip Amandemen Keempat dan Undang-Undang Posse Comitatus, OpenAI secara efektif meredakan kebuntuan yang mengancam akan meninggalkan militer AS tanpa kemampuan AI tercanggih selama perang aktif.

Sorotan utama dari utas OpenAI Altman

Utas diskusi dengan cepat beralih dari PR korporat ke perdebatan mentah tentang etika perang AI. Salah satu pertanyaan yang paling disukai membahas pergeseran mendasar dalam misi OpenAI: mengapa beralih dari "peningkatan manusia" ke kolaborasi pertahanan?

Tanggapan Altman sangat pragmatis: "Dunia adalah tempat yang rumit, berantakan, dan terkadang berbahaya. Kami percaya orang-orang yang bertanggung jawab melindungi negara harus memiliki akses ke alat terbaik yang tersedia."

Altman merinci perlindungan teknis yang dirancang untuk mencegah AI menjadi algojo otonom.

Ini termasuk strategi penerapan "cloud-only", mencegah model disematkan langsung ke perangkat edge atau perangkat keras senjata, dan penempatan "Field Deployment Engineers" (FDE) untuk mengawasi penggunaan terklasifikasi.

Namun, utas diskusi tetap skeptis. Kritikus menunjuk pada Community Note yang menyoroti bahwa di bawah USA PATRIOT Act, "penggunaan yang sah" masih dapat mencakup pengumpulan data yang luas.

Ketika ditanya tentang kemungkinan AI menyebabkan bencana global, Altman secara tidak biasa singkat, menyarankan bahwa kolaborasi keamanan nasional mungkin sebenarnya mengurangi risiko dengan menjaga negara dan pengembang tetap sejalan.

Salah satu pertukaran paling mengungkap melibatkan tata kelola. Ketika ditanya apakah pemerintah federal pada akhirnya bisa menasionalisasi OpenAI, Altman mengakui, "Saya sudah memikirkannya, tentu saja, tetapi sepertinya tidak terlalu mungkin pada lintasan saat ini."

Pengakuan ini tidak banyak menenangkan mereka yang melihat rebranding Departemen Perang dan pencantuman Anthropic ke daftar hitam sebagai langkah pertama menuju AGI yang dijalankan negara.

Etika, preseden, dan hilangnya kontrol

Implikasi dari kesepakatan ini jauh melampaui satu kontrak. Dengan menerima penetapan risiko rantai pasokan pesaingnya, OpenAI secara implisit memvalidasi dunia di mana pemerintah dapat memilih pemenang dan pecundang berdasarkan komitmen ideologis perusahaan terhadap utilitas militer.

Ini menetapkan preseden yang menakutkan, seperti yang diakui bahkan oleh Altman, di mana perusahaan swasta mungkin merasa tertekan untuk menurunkan perlindungan etis mereka agar tidak dicap sebagai ancaman keamanan nasional.

Dari sudut pandang etis, persyaratan human-in-the-loop tetap menjadi poin yang paling kontroversial.

Sementara OpenAI bersikeras bahwa manusia akan mempertahankan tanggung jawab atas penggunaan kekuatan, para ahli pertahanan dalam utas mencatat bahwa kebijakan DoW saat ini (Direktif 3000.09) terkenal kabur tentang apa yang merupakan kontrol manusia yang berarti dalam pertempuran digital berkecepatan tinggi.

Sam Altman

Jika AI memproses data penargetan lebih cepat dari kedipan mata manusia, apakah manusia benar-benar dalam lingkaran atau hanya stempel karet untuk keputusan mesin?

Risiko hilangnya kontrol AGI bukan lagi kekhawatiran teoritis untuk masa depan yang jauh; ini adalah pertanyaan tentang bagaimana model-model ini akan berperilaku dalam lingkungan perang terklasifikasi yang berisiko tinggi.

Baca juga: OpenAI mengumpulkan rekor $110 miliar dari Amazon, NVIDIA, dan SoftBank untuk meningkatkan AI

Saat AMA berakhir, gambaran Altman dalam ingatan pengguna OpenAI bukanlah seorang visioner teknologi yang bermimpi tinggi, tetapi seorang diplomat digital yang menavigasi dunia kekuatan keras.

Dia meninggalkan utas dengan kesimpulan yang membuat sadar: era pengembangan AI netral telah berakhir. Keputusan OpenAI untuk berintegrasi dengan Departemen Perang menandai awal bab baru di mana AGI diperlakukan sebagai aset strategis negara, bukan barang publik global.

Postingan Ringkasan AMA Sam Altman tentang pakta kontroversial OpenAI dengan Departemen Perang pertama kali muncul di Technext.