Caitlin Kalinowski, mantan bos robotika OpenAI, telah mengundurkan diri dari posisinya setelah bekerja untuk perusahaan tersebut selama lebih dari satu tahun. Kalinowski menyebutkan kekhawatiran bahwa militer AS dapat menggunakan alat AI perusahaan untuk pengawasan domestik dan untuk sistem otomatis yang ditargetkan pada senjata AS.
Bos perangkat keras dan teknik robotika OpenAI, Caitlin Kalinowski, telah meninggalkan perusahaan AI tersebut setelah bertugas sejak November 2024. Kalinowski mengumumkan pengunduran dirinya pada 7 Maret, dengan menyebutkan kekhawatiran atas kesepakatan yang dicapai antara OpenAI dan Departemen Pertahanan AS pada Februari.
Militer AS akan menggunakan AI untuk pengawasan domestik, klaim Kalinowski
Menurut Kalinowski, pengunduran dirinya dipicu oleh niat Departemen Pertahanan AS untuk menggunakan alat dan kemampuan AI untuk melakukan pengawasan terhadap warga AS tanpa pengawasan yudisial. Mantan karyawan OpenAI tersebut menulis di X bahwa AI memiliki peran vital dalam keamanan nasional.
Dia menjelaskan bahwa Departemen Pertahanan AS bermaksud menggunakan AI untuk pengawasan dan senjata otonom, sebuah keputusan yang tidak dia setujui. Dia mengatakan keputusannya "adalah tentang prinsip, bukan orang" dan bahwa dia bangga dengan apa yang telah dibangun tim di OpenAI selama masa kerjanya di perusahaan tersebut.
Pada Februari, Pentagon AS mengintensifkan pembicaraan dengan perusahaan AI terkemuka tentang penerapan model otomatis pada sistem rahasia. Cryptopolitan melaporkan bahwa Pentagon mendorong pembicaraan dengan Anthropic dan OpenAI untuk memasukkan alat AI pada jaringan militer rahasia.
Emil Michael, Chief Technology Officer Pentagon, mengatakan dalam pertemuan Gedung Putih dengan para pemimpin teknologi bahwa militer ingin model AI beroperasi di jaringan rahasia dan tidak rahasia tanpa batasan atau pembatasan.
Negosiasi antara pemerintah AS dan Anthropic menemui jalan buntu karena para pemimpinnya telah menetapkan garis tegas bahwa teknologi mereka tidak akan digunakan untuk operasi pengawasan domestik dan sistem penargetan senjata otonom. Perusahaan tersebut menentang ultimatum Pentagon untuk menghapus pengamanan AI pada akhir Februari.
CEO Anthropic Dario Amodei mempertahankan pendiriannya, menolak untuk mengizinkan teknologi perusahaan digunakan dalam ekspedisi militer. Sebagai tanggapan, Trump menginstruksikan semua lembaga federal untuk berhenti menggunakan teknologi Anthropic pada akhir Februari.
OpenAI memberlakukan pembatasan pada penerapan AI militer
Departemen pertahanan mencapai kesepakatan dengan OpenAI yang sejak itu menuai kritik. Sam Altman menyebutkan bahwa kesepakatan tersebut terlihat cukup oportunistik dan mengklarifikasi bahwa perusahaan telah memberlakukan pembatasan tentang bagaimana alat AI-nya akan digunakan dalam operasi militer.
Namun, tantangan Kalinowski mengklaim bahwa pengumuman tersebut terburu-buru, tanpa pagar pembatas yang diperlukan. Dia menambahkan bahwa kepergiannya didasarkan pada kekhawatiran tata kelola, yang terlalu penting untuk terburu-buru.
OpenAI mengonfirmasi kepergian Kalinowski dalam sebuah pernyataan, tetapi menegaskan bahwa hubungan perusahaan dengan departemen pertahanan membuka jalan bagi penggunaan alat AI yang bertanggung jawab dalam keamanan nasional.
Pada Februari, OpenAI mengumumkan akan menerapkan versi khusus ChatGPT pada platform AI perusahaan aman Departemen Perang yang disebut GenAI.mil. Perusahaan tersebut mencatat bahwa kolaborasinya dengan departemen militer dan pertahanan berasal dari peran penting AI dalam melindungi orang dan mencegah konflik.
Gesekan antara pemerintah AS dan perusahaan AI tentang kemajuan AI militer juga telah menyebabkan lebih banyak peneliti keluar dari perusahaan AI. Salah satu peneliti pengamanan terkemuka Anthropic mengundurkan diri dengan pernyataan, "Dunia dalam bahaya."
Peneliti OpenAI lainnya juga mengundurkan diri dari perannya, mengatakan teknologi AI memiliki cara untuk mengendalikan manusia yang tidak dapat dipahami atau dicegah oleh pengembang.
Zoë Hitzig, mantan peneliti di OpenAI, juga meninggalkan perusahaan pada 11 Februari. Dia mengundurkan diri pada hari yang sama OpenAI mengumumkan telah mulai menguji iklan pada LLM ChatGPT-nya. Dia mengklaim bahwa perusahaan AI tersebut membuat kesalahan yang sama seperti yang dilakukan Facebook.
Hitzig menyatakan kekhawatirannya bahwa peran unik ChatGPT sebagai teman kepercayaan untuk pengungkapan yang sangat pribadi (ketakutan medis, masalah hubungan, kepercayaan agama) membuat penargetan iklan sangat berisiko.
Sumber: https://www.cryptopolitan.com/openai-robotics-boss-resigns-ai-warning/
