AI Tidak Memiliki Masalah Kepercayaan; Ia Memiliki Masalah Penerjemahan

Percakapan seputar kecerdasan buatan telah mencapai kebuntuan yang dapat diprediksi. Pengguna mengatakan mereka tidak mempercayai AI. Perusahaan menjanjikan transparansi. Regulator mengancam intervensi. Namun masalah intinya tetap: orang tidak dapat mempercayai apa yang tidak mereka pahami, dan sebagian besar sistem AI masih berkomunikasi dengan cara yang terasa asing bagi pengguna. 

Krisis kepercayaan ini kurang tentang kepercayaan itu sendiri dan lebih tentang penerjemahan. Ketika permohonan pinjaman ditolak, kandidat pekerjaan disaring, atau pernyataan tujuan mahasiswa ditandai sebagai plagiarisme AI, sistem jarang menjelaskan alasannya dalam istilah yang dapat diproses manusia. Pengguna dibiarkan menebak, frustrasi, dan skeptis.

Teknologinya sangat fungsional, tetapi tidak menunjukkan cara kerjanya; tidak ada penjelasan. 

Kesenjangan penerjemahan ini memiliki konsekuensi ekonomi dan sosial. Studi global KPMG 2023 menemukan bahwa 61 persen orang waspada tentang mempercayai sistem AI, dengan hanya setengahnya percaya bahwa manfaatnya lebih besar daripada risikonya. Ketidakpercayaan ini merugikan bisnis miliaran dalam produktivitas yang tidak terealisasi melalui penundaan adopsi AI.

Tetapi masalahnya melampaui hasil bisnis. Di banyak sektor, sistem AI sekarang membentuk keputusan dengan dampak pribadi yang signifikan. Ketika sistem ini tidak dapat menjelaskan diri mereka sendiri, mereka menjadi penjaga gerbang yang tidak bertanggung jawab.

Pendidikan adalah salah satu contoh yang jelas. Algoritma menilai ribuan titik data dari kinerja akademik, kapasitas keuangan, lokasi, hingga tujuan karir dan menghasilkan rekomendasi yang memengaruhi masa depan siswa.

Serupa: Bisakah 'Hakim AI' menjadi solusi untuk masalah dalam sistem peradilan Nigeria?

Namun siswa jarang tahu mengapa opsi tertentu muncul atau bagaimana sistem menafsirkan informasi mereka. Kekaburan serupa muncul di seluruh layanan kesehatan, perekrutan, keuangan, dan layanan publik.

Argumen bahwa AI "terlalu kompleks untuk dijelaskan" tidak mengenai intinya. Kompleksitas bukanlah penghalang; komunikasilah. Bidang lain menerjemahkan informasi kompleks untuk non-ahli setiap hari. Tantangannya bukan membuat sistem yang mendasarinya lebih sederhana; ini adalah mengekspresikan logika mereka dengan cara yang dapat dipahami pengguna.

Sementara penelitian penjelasan teknis terus berkembang, ini menawarkan metode untuk melacak perilaku model. Namun, metode ini berarti sedikit jika penjelasannya memerlukan latar belakang pengetahuan domain inti. Mengatasi masalah penerjemahan membutuhkan lebih dari sekadar mengekspos logika internal; ini membutuhkan produksi penjelasan yang dapat dipahami, relevan, dan dapat digunakan.

Menyelesaikan kesenjangan penerjemahan akan memungkinkan adopsi yang lebih cepat dan lebih percaya diri. Orang menggunakan alat yang mereka pahami. Ketika pengguna memahami mengapa sistem berperilaku dengan cara tertentu, mereka lebih cenderung menerima dan secara efektif menggunakan rekomendasinya.

Ke depan, pengembang harus bertanya tidak hanya "apakah ini berfungsi?" tetapi "bisakah pengguna memahami mengapa ini berfungsi?" Organisasi yang menerapkan AI harus berinvestasi dalam desain komunikasi di samping optimasi teknis.

Sumber gambar: Unsplash

Regulator harus meminta penjelasan yang ditujukan untuk pengguna, bukan hanya dokumentasi untuk auditor. Penjelasan yang jelas mendukung keputusan yang lebih baik, lebih banyak keterlibatan, dan hasil yang lebih adil. 

Penerjemahan harus menjadi fitur inti dari sistem AI. Itu berarti merancang alat yang berkomunikasi dalam bahasa yang sederhana, menguji penjelasan dengan pengguna nyata, dan menahan penerapan sistem yang tidak dapat mengartikulasikan penalarannya dengan jelas. Teknologi yang memengaruhi kehidupan orang harus dapat menjelaskan dirinya sendiri. Apa pun yang kurang bukanlah masalah kepercayaan; itu adalah kegagalan penerjemahan.

Tentang Penulis

Mathilda Oladimeji adalah peneliti doktoral dalam Sistem Informasi di Louisiana State University, di mana dia mempelajari penjelasan AI dan kepercayaan pengguna.

Sebelumnya dia menjabat sebagai Manajer Pemasaran Regional untuk Intake Education di seluruh Afrika, mengelola kampanye digital untuk lebih dari 100 universitas.​​​​​