Hanya dalam beberapa tahun singkat, AI telah tertanam dalam operasi bisnis sehari-hari, banyak perusahaan bergerak cepat untuk mengotomatisasi proses dan mengandalkan sistem berbasis AI. Namun menurut Georg Meyer, seorang ahli strategi dan sistem, kecepatan dan kenyamanan dapat datang dengan biaya, terutama ketika bisnis kehilangan visibilitas tentang bagaimana sistem terpenting mereka sebenarnya bekerja.
Meyer memperingatkan bahwa salah satu risiko terbesar adalah rasa pemahaman yang salah. "Perusahaan mungkin berpikir mereka tahu apa yang terjadi karena prompt yang mereka berikan," jelasnya, "tetapi mereka tidak memiliki visibilitas sebenarnya tentang apa yang terjadi di dalam kotak."
Sistem AI modern, terutama model bahasa besar, sangat kuat tetapi sulit untuk diperiksa sepenuhnya. Proses internal mereka tidak selalu transparan, dan output mereka dapat bervariasi karena keacakan yang tertanam. Ini menciptakan tantangan seputar konsistensi dan keandalan, terutama ketika AI digunakan dalam fungsi bisnis inti. "Ada risiko tersembunyi terhadap reproduktifitas dan keandalan," kata Meyer, "yang dapat menjadi bencana ketika mempengaruhi jantung perusahaan."
Bagi Meyer, solusinya bukan menghindari AI, tetapi memastikan pemahaman manusia tetap menjadi pusat. Bisnis masih memerlukan orang yang tahu bagaimana sistem bekerja, bahkan jika sistem tersebut didukung oleh AI.
Keuntungan Jangka Pendek, Risiko Jangka Panjang
Kekhawatiran lain yang disoroti Meyer adalah dampak jangka panjang AI terhadap keahlian dalam organisasi. Meskipun AI dapat secara dramatis mempercepat alur kerja dan membantu mengubah pengetahuan menjadi tindakan, ketergantungan berlebihan padanya dapat datang dengan konsekuensi yang tidak diinginkan.
"Baik ketergantungan berlebihan maupun kurang dapat berisiko," kata Meyer. "AI dapat mengurangi waktu yang dibutuhkan untuk menerapkan keahlian, tetapi menimbulkan pertanyaan penting, bagaimana kita melatih generasi ahli berikutnya jika mereka tidak pernah mengembangkan dasar-dasarnya?"
Dalam jangka pendek, AI dapat membuat tim lebih produktif. Namun jika karyawan mulai bergantung padanya untuk pemikiran inti dan pemecahan masalah, bisnis berisiko kehilangan keahlian yang diperlukan untuk menangani situasi yang kompleks, tidak terduga, atau yang membutuhkan sentuhan manusia. Meyer percaya perusahaan dan pendidik sama-sama perlu disengaja dalam mempertahankan pengetahuan dasar, terutama untuk skenario di mana AI tidak dapat diandalkan.
Akuntabilitas Tetap Milik Manusia
Mungkin masalah paling penting yang diangkat Meyer adalah akuntabilitas. Ketika sistem AI mengambil lebih banyak tanggung jawab, beberapa organisasi mungkin tergoda untuk mengalihkan kesalahan ketika ada yang salah. Meyer jelas bahwa ini bukan pendekatan yang layak.
"Akuntabilitas, dan pasangan hukumnya, liabilitas, secara fundamental melekat pada manusia," katanya. "Anda tidak dapat melepaskan tangan dari hasil buruk dengan mengatakan 'AI yang melakukannya.'"
Dia menunjukkan bahwa banyak perusahaan sudah mencoba menavigasi area abu-abu ini. Penyedia AI sering menyertakan penafian bahwa sistem mereka dapat membuat kesalahan, sementara industri seperti otomotif mempromosikan fitur "mengemudi sendiri" tetapi masih memegang pengemudi manusia bertanggung jawab. Namun, Meyer berpendapat bahwa jika sistem benar-benar otonom, tanggung jawab harus beralih kepada mereka yang merancang dan menerapkannya.
Ini berlaku bahkan dalam kasus penggunaan sehari-hari yang lebih kecil. Misalnya, bisnis yang menggunakan AI untuk membangun aplikasi yang menangani data sensitif tidak dapat mengasumsikan teknologi akan mengelola keamanan dengan benar. "AI tidak dipercayakan dengan data," kata Meyer. "Perusahaan yang dipercayakan."
