Departemen pemerintah di seluruh Afrika Selatan semakin mengandalkan alat digital untuk mengevaluasi program publik dan memantau kinerja. Ini merupakan bagian dari reformasi sektor publik yang lebih luas. Tujuannya adalah untuk meningkatkan akuntabilitas, merespons tekanan audit, dan mengelola program berskala besar dengan staf dan anggaran yang terbatas.
Berikut contohnya. Departemen nasional yang melacak penyediaan perumahan, bantuan sosial, atau pembangunan infrastruktur mengandalkan sistem kinerja digital daripada laporan berbasis kertas berkala. Dashboard – cara menampilkan data visual di satu tempat – memberikan pembaruan hampir real-time tentang pemberian layanan.
Contoh lain adalah penggunaan platform yang mengumpulkan data seluler. Platform ini memungkinkan petugas garis depan dan kontraktor mengunggah informasi langsung dari lapangan.
Kedua contoh tersebut mendukung penggunaan kecerdasan buatan (AI) untuk memproses dataset besar dan menghasilkan wawasan yang sebelumnya membutuhkan waktu berbulan-bulan untuk dianalisis.
Pergeseran ini sering digambarkan sebagai langkah maju untuk akuntabilitas dan efisiensi di sektor publik.
Saya adalah peneliti kebijakan publik dengan minat khusus pada pemantauan dan evaluasi program pemerintah. Penelitian terbaru saya menunjukkan tren yang mengkhawatirkan, bahwa perubahan ke teknologi berlangsung jauh lebih cepat daripada kerangka kerja etika dan tata kelola yang dimaksudkan untuk mengaturnya.
Di seluruh kasus yang saya periksa, alat digital sudah tertanam dalam proses pemantauan dan evaluasi rutin. Tetapi tidak ada standar yang jelas untuk memandu penggunaannya.
Ini menimbulkan risiko terkait pengawasan, eksklusi, penyalahgunaan data, dan penilaian profesional yang buruk. Risiko-risiko ini tidak abstrak. Mereka membentuk bagaimana warga mengalami negara, bagaimana data mereka ditangani, dan suara siapa yang pada akhirnya diperhitungkan dalam keputusan kebijakan.
Ketika teknologi melampaui kebijakan
Evaluasi sektor publik melibatkan penilaian program dan kebijakan pemerintah. Ini menentukan apakah:
- sumber daya publik digunakan secara efektif
- program mencapai hasil yang diinginkan
- warga dapat meminta pertanggungjawaban negara atas kinerja.
Secara tradisional, evaluasi ini bergantung pada keterlibatan tatap muka antara komunitas, evaluator, pemerintah, dan lainnya. Evaluasi tersebut mencakup metode kualitatif yang memungkinkan nuansa, penjelasan, dan pembangunan kepercayaan.
Alat digital telah mengubah ini.
Dalam penelitian saya, saya mewawancarai evaluator di pemerintahan, LSM, akademisi, asosiasi profesional, dan konsultan swasta. Saya menemukan kekhawatiran yang konsisten di semua bidang. Sistem digital sering diperkenalkan tanpa panduan etis yang disesuaikan dengan praktik evaluasi.
Panduan etis akan memberikan aturan yang jelas dan praktis tentang bagaimana alat digital digunakan dalam evaluasi. Misalnya, saat menggunakan dashboard atau analitik data otomatis, panduan harus mengharuskan evaluator menjelaskan bagaimana data dihasilkan, siapa yang memiliki akses ke data tersebut, dan bagaimana temuan dapat memengaruhi komunitas yang dievaluasi. Panduan tersebut juga harus mencegah penggunaan sistem digital untuk memantau individu tanpa persetujuan atau untuk memberi peringkat program dengan cara yang mengabaikan konteks.
Undang-Undang Perlindungan Informasi Pribadi Afrika Selatan memberikan kerangka hukum umum untuk perlindungan data. Tetapi undang-undang ini tidak menangani dilema etis khusus yang muncul ketika evaluasi menjadi otomatis, berbasis cloud, dan dimediasi secara algoritmik.
Hasilnya adalah evaluator sering kali dibiarkan menavigasi medan etika yang kompleks tanpa standar yang jelas. Ini memaksa institusi untuk bergantung pada preseden, kebiasaan informal, praktik masa lalu, dan pengaturan default perangkat lunak.
Pengawasan yang merayap dan penyalahgunaan data
Platform digital memungkinkan pengumpulan data dalam jumlah besar. Setelah data diunggah ke sistem berbasis cloud atau platform pihak ketiga, kontrol atas penyimpanan, penggunaan ulang, dan berbagi data sering berpindah dari evaluator ke pihak lain.
Beberapa evaluator menggambarkan situasi di mana data yang mereka kumpulkan atas nama departemen pemerintah kemudian digunakan kembali oleh departemen atau lembaga negara lainnya. Ini dilakukan tanpa kesadaran eksplisit peserta. Proses persetujuan di lingkungan digital sering dikurangi menjadi satu klik.
Contoh penggunaan lain termasuk bentuk analisis, pelaporan, atau pemantauan institusional lainnya.
Salah satu risiko etis yang muncul dari penelitian adalah penggunaan data ini untuk pengawasan. Ini adalah penggunaan data untuk memantau individu, komunitas, atau pekerja garis depan.
Eksklusi digital dan suara yang tidak terlihat
Alat evaluasi digital sering dipresentasikan sebagai perluasan jangkauan dan partisipasi. Tetapi dalam praktiknya, alat tersebut dapat mengecualikan kelompok yang sudah terpinggirkan. Komunitas dengan akses internet terbatas, literasi digital rendah, hambatan bahasa, atau infrastruktur yang tidak dapat diandalkan cenderung tidak berpartisipasi penuh dalam evaluasi digital.
Alat otomatis memiliki keterbatasan. Misalnya, alat tersebut mungkin kesulitan memproses data multibahasa, aksen lokal, atau bentuk ekspresi yang spesifik secara budaya. Ini menyebabkan representasi pengalaman hidup yang parsial atau terdistorsi. Evaluator dalam studi saya melihat ini terjadi dalam praktik.
Eksklusi ini memiliki konsekuensi serius terutama di negara dengan ketimpangan seperti Afrika Selatan. Evaluasi yang sangat bergantung pada alat digital mungkin menemukan populasi perkotaan yang terhubung dan membuat komunitas pedesaan atau informal secara statistik tidak terlihat.
Ini bukan sekadar keterbatasan teknis. Ini membentuk kebutuhan mana yang diakui dan pengalaman siapa yang menginformasikan keputusan kebijakan. Jika data evaluasi tidak mewakili yang paling rentan, program publik mungkin tampak lebih efektif daripada yang sebenarnya. Ini menutupi kegagalan struktural daripada mengatasinya.
Dalam studi saya, beberapa evaluasi melaporkan tren kinerja positif meskipun evaluator mencatat kesenjangan dalam pengumpulan data.
Algoritma tidak netral
Evaluator juga mengangkat kekhawatiran tentang otoritas yang semakin besar diberikan kepada output algoritmik. Dashboard, laporan otomatis, dan analitik berbasis AI sering diperlakukan sebagai gambaran yang benar. Ini terjadi bahkan ketika mereka bertentangan dengan pengetahuan berbasis lapangan atau pemahaman kontekstual.
Misalnya, dashboard mungkin menunjukkan target sesuai jalur. Tetapi dalam contoh kunjungan lokasi, evaluator dapat menemukan kekurangan atau ketidakpuasan.
Beberapa peserta melaporkan tekanan dari pemberi dana atau institusi untuk mengandalkan analisis angka.
Namun algoritma mencerminkan asumsi, dataset, dan prioritas yang tertanam dalam desainnya. Ketika diterapkan tanpa kritis, algoritma dapat mereproduksi bias, menyederhanakan dinamika sosial secara berlebihan, dan mengabaikan wawasan kualitatif.
Jika sistem digital mendikte bagaimana data harus dikumpulkan, dianalisis, dan dilaporkan, evaluator berisiko menjadi teknisi dan bukan profesional independen yang menjalankan penilaian.
Mengapa Afrika membutuhkan etika yang sensitif konteks
Di seluruh Afrika, strategi dan kebijakan nasional tentang teknologi digital sering meminjam banyak dari kerangka kerja internasional. Kerangka kerja ini dikembangkan dalam konteks yang sangat berbeda. Prinsip global tentang etika AI dan tata kelola data memberikan titik referensi yang berguna. Tetapi prinsip tersebut tidak secara memadai mengatasi realitas ketimpangan, ketidakpercayaan historis, dan akses digital yang tidak merata di sebagian besar sektor publik Afrika.
Penelitian saya berpendapat bahwa tata kelola etis untuk evaluasi digital harus sensitif terhadap konteks. Standar harus menangani:
- bagaimana persetujuan diperoleh
- siapa yang memiliki data evaluasi
- bagaimana alat algoritmik dipilih dan diaudit
- bagaimana independensi evaluator dilindungi.
Kerangka kerja etis harus tertanam pada tahap desain sistem digital.
Lesedi Senamele Matlala, Dosen Senior dan Peneliti Kebijakan Publik, Pemantauan dan Evaluasi, University of Johannesburg
Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Baca artikel asli.
