Pekerja Kenya yang melatih kacamata AI Meta mengatakan mereka melihat momen paling intim pengguna

Investigasi oleh surat kabar Swedia Svenska Dagbladet dan Göteborgs-Posten telah mengungkapkan bahwa pekerja kontrak di Kenya yang dipekerjakan oleh Sama—sebuah perusahaan outsourcing Kenya yang menyediakan layanan anotasi data—untuk membantu melatih sistem AI Meta Platforms sangat terpapar gambar dan video pribadi yang direkam oleh pengguna kacamata pintar Ray-Ban milik perusahaan tersebut.

Laporan yang diterbitkan pada 27 Februari ini menyoroti tenaga kerja manusia tersembunyi di balik dorongan Meta ke artificial intelligence yang dapat dipakai, dan memunculkan pertanyaan baru tentang perlindungan data, transfer data lintas negara, dan dampak psikologis pada moderator konten yang bekerja untuk Sama di Nairobi.

Kacamata pintar Ray-Ban milik Meta, yang dikembangkan bersama EssilorLuxottica, dipasarkan sebagai asisten bertenaga AI yang dapat menerjemahkan bahasa, mendeskripsikan lingkungan sekitar, mengambil foto dan video tanpa menggunakan tangan, dan menjawab pertanyaan tentang apa yang dilihat pengguna.

Namun, di balik promosi futuristik tersebut, wawancara dengan karyawan Sama dan Meta saat ini maupun mantan karyawan oleh Svenska Dagbladet mengungkapkan bahwa rekaman yang diambil melalui kacamata tersebut berakhir ribuan kilometer jauhnya di Kenya, di mana anotator data meninjau dan melabeli rekaman tersebut untuk meningkatkan kinerja sistem.

Privasi, diam-diam dilanggar

Beberapa pekerja Kenya mengatakan kepada surat kabar Swedia bahwa mereka secara rutin menemui materi sensitif dalam pekerjaan mereka, termasuk adegan rumah tangga biasa hingga momen intim yang mungkin tidak disadari pengguna sedang direkam.

Dalam beberapa kasus, kata para pekerja, rekaman tersebut mencakup informasi keuangan seperti kartu bank yang terlihat dalam frame, atau rekaman yang dibuat di ruang pribadi seperti kamar tidur dan kamar mandi.

"Dalam beberapa video, Anda bisa melihat seseorang pergi ke toilet, atau sedang membuka pakaian," kata seorang pekerja Sama kepada wartawan. "Saya rasa mereka tidak tahu, karena jika mereka tahu, mereka tidak akan merekam."

Kontraktor lain mengklaim mereka meninjau rekaman yang menunjukkan pemakai kacamata meletakkannya di meja samping tempat tidur, kemudian istrinya masuk ke kamar dan membuka pakaian, tampaknya tidak menyadari bahwa dia sedang direkam. Rekaman lain dilaporkan menunjukkan pemakai menonton pornografi atau bahkan merekam diri mereka sendiri saat berhubungan seks

Menurut investigasi tersebut, ada sedikit transparansi untuk perangkat yang dapat dipakai ini. Pengecer di Eropa dilaporkan memberikan informasi yang tidak konsisten tentang apakah data yang direkam oleh kacamata tetap ada di perangkat atau ditransmisikan ke server Meta. Pengujian independen yang dikutip dalam laporan menunjukkan bahwa banyak fitur AI kacamata memerlukan konektivitas cloud, yang berarti gambar dan input suara dapat diproses secara remote daripada secara lokal di perangkat.

Koneksi Sama

Sama, sebelumnya bernama Samasource, menyediakan layanan anotasi data untuk perusahaan teknologi besar seperti Meta dan OpenAI. Perusahaan ini telah dituduh melakukan pelanggaran tenaga kerja di masa lalu dalam beberapa kontraknya, khususnya dengan OpenAI.

Sama mewajibkan perjanjian kerahasiaan yang ketat yang membatasi apa yang dapat diungkapkan karyawan kepada publik. Namun laporan yang diterbitkan oleh surat kabar Swedia menunjukkan bahwa janji AI tanpa hambatan didukung oleh sistem tenaga kerja di mana peninjau manusia menyaring volume besar data mentah yang tidak disaring sehingga algoritma dapat belajar mengenali objek, lingkungan, dan konteks.

Meta menyatakan dalam kebijakan privasinya bahwa konten pengguna dapat ditinjau oleh manusia untuk meningkatkan produk dan memastikan keamanan. Untuk pengguna Eropa, anak perusahaan Meta di Irlandia bertanggung jawab atas kepatuhan terhadap General Data Protection Regulation (GDPR) UE.

Namun, investigasi ini memunculkan pertanyaan tentang bagaimana data yang dikumpulkan di Eropa atau Amerika Serikat ditransfer dan diproses di negara-negara seperti Kenya, yang tidak memiliki keputusan kecukupan UE yang mengakui rezim perlindungan data mereka setara dengan GDPR.

Meskipun anotasi data, moderasi konten, dan pelatihan AI telah menjadi penting bagi ambisi teknologi Nairobi, pekerjaan ini—terutama untuk mahasiswa dan lulusan muda—datang dengan gaji rendah, beban kerja berat, dan paparan terhadap materi yang mengganggu.

Meta telah membela praktiknya dalam pernyataan publik sebelumnya, mengatakan bahwa perusahaan berinvestasi dalam perlindungan privasi dan meminimalkan jumlah data yang digunakan untuk pelatihan. Namun, laporan yang diterbitkan oleh surat kabar Swedia menunjukkan bahwa garis antara kecerdasan otomatis dan pengawasan manusia lebih kabur dari yang diasumsikan banyak konsumen.