Mengapa Orang Terus Berfantasi Tentang AI Membawa Kiamat?

Hai semua, Michael Reilly di sini.

\ Masih awal tahun 2024, tapi apakah ada yang lain yang merasa lelah dengan tingkat drama dan kehebohan seputar AI? Satu hal yang sangat mencolok bagi saya adalah kesediaan beberapa orang untuk menggunakan kata-kata bencana—visi apokaliptik yang sebenarnya tentang masa depan kita—untuk menggambarkan chatbot dan generator gambar mereka yang keren.

\ Saya terutama memikirkan pertengkaran baru-baru ini di Twitter antara Vinod Khosla dan Marc Andreessen, dua pemodal ventura paling terkemuka di Silicon Valley, yang juga keduanya investor di OpenAI. Apa yang dimulai sebagai diskusi tentang apakah ide bagus untuk kode kepemilikan OpenAI menjadi open source, entah bagaimana berakhir dengan membandingkan produk perusahaan dengan Proyek Manhattan.

\ Poin Khosla tampaknya berpusat pada kekhawatiran keamanan nasional untuk membuka kode AI yang sangat canggih kepada siapa pun yang mungkin memutuskan untuk menyalahgunakannya. Tetapi jenis pembicaraan apokalips semacam ini ada dalam DNA pendiri OpenAI, sebuah perusahaan yang dimulai sebagai upaya bertujuan untuk menciptakan superinteligensi berbasis komputer yang akan mengalahkan kecerdasan manusia. Pada akhir 2022 OpenAI meluncurkan ChatGPT dan kehebohannya benar-benar meledak. Begitu juga dengan katastrofisasi, yang menyebar dari orang-orang seperti Sam Altman, yang sebagai pemimpin perusahaan memiliki kepentingan besar dalam membuat teknologinya terdengar Sangat Kuat.

\ Mengapa orang-orang teknologi suka berbicara tentang hal-hal dalam istilah apokaliptik? Mari bersikap adil: *semua orang* suka berbicara tentang akhir zaman. Peradaban kuno, teks agama, produser film Hollywood, media arus utama, teoretikus konspirasi internet—eksekutif teknologi tidak sendirian. Ada sesuatu yang secara alami manusiawi tentang keyakinan bahwa dunia berada di ambang bencana.

\ Tetapi khusus untuk orang-orang teknologi, saya bertanya-tanya: Apakah Sam Altman mengatakan semua yang dia butuhkan adalah $7 triliun untuk mengubah dunia menjadi utopia bertenaga AI karena dia benar-benar percaya itu adalah penggunaan uang yang baik (apakah dia pernah mendengar tentang perubahan iklim)? Apakah itu hanya pemasaran? Semakin berbahaya teknologi mereka terdengar, semakin banyak perhatian yang didapatkan dan karenanya semakin banyak uang, baik dalam hal investasi maupun valuasi perusahaan. Strategi itu... sepertinya bekerja dengan sangat baik! OpenAI telah dinilai senilai $80 miliar.

\ Masalah sebenarnya, bagaimanapun, adalah bahwa narasi objek berkilau ini mengalihkan perhatian dari dampak nyata AI dalam kehidupan nyata. Perangkat lunak yang menggunakan kumpulan besar data untuk membuat prediksi tentang dunia ada di luar sana, sibuk melakukan tugasnya. Dalam beberapa kasus—seperti dalam sistem penilaian Los Angeles untuk perumahan bersubsidi, Sistem Peringatan Dini Putus Sekolah Wisconsin, alat deteksi plagiarisme, dan banyak kasus terdokumentasi lainnya mulai dari perekrutan hingga peradilan pidana—itu merugikan orang.

\ Jika mereka mau memperhatikan, saya pikir Para Broker Kekuatan Teknologi Besar sebagian besar akan setuju dengan gagasan bahwa kita harus memperbaiki sistem seperti yang diselidiki The Markup di LA atau Wisconsin sehingga mereka beroperasi lebih adil dan merata. Tetapi dengan mengabaikan subjek yang jauh kurang seksi ini dan malah fokus pada perdebatan tentang bagaimana AI akan membawa akhir zaman—atau bahwa hanya melalui pengelolaan bijak dari imam tinggi modal ventura kita dapat diselamatkan dari kehancuran—kita diminta untuk melatih perhatian kita pada fantasi.

\ Dan hei, siapa yang tidak suka fantasi yang bagus. Pastikan saja untuk menyisakan ruang untuk realitas.

\ Terima kasih telah membaca,

Michael Reilly

Managing Editor

The Markup

\ PS – jika Anda bertahan sejauh ini atau hanya melompat ke bagian bawah, Anda pantas mendapatkan beberapa hal keren. Berikut adalah beberapa hal (kebanyakan terkait AI) dari internet yang saya temukan sangat menarik baru-baru ini. Semoga mereka memberi Anda beberapa hal untuk dipikirkan akhir pekan ini:

• Cerita ini dari Karen Hao di The Atlantic adalah salah satu tulisan terbaik yang pernah saya baca tentang sumber daya alam yang dikonsumsi oleh Hype AI Besar tahun 2020-an.
• Ross Teixeira kami sendiri berbicara dengan beberapa guru di seluruh dunia tentang bagaimana mereka menggunakan AI di kelas. Saya menemukan jawaban mereka menarik.
• Pendatang baru 404 Media telah membuat gebrakan dengan berita eksklusif hampir setiap hari sejak peluncuran mereka enam bulan lalu. Jika AI akan menghancurkan dunia, itu karena akan digunakan untuk menenggelamkan kita semua dalam spam TikTok.
• Mantan kolega kami, Leon Yin, dan rekan-rekannya di Bloomberg melakukan investigasi luar biasa tentang bagaimana alat perekrutan pekerjaan GPT OpenAI memiliki bias rasial bawaan. Secara visual menakjubkan serta merupakan karya jurnalisme yang hebat.
• Perusahaan kecil ini berpikir Amerika perlu mulai menggunakan mesin pemungutan suara yang sepenuhnya berjalan pada kode open source.

Kredit

• Michael Reilly, Managing Editor

Penyuntingan

• Sisi Wei

Desain dan Grafis

• Gabriel Hongsdusit

Engagement

• Maria Puertas

\ Juga dipublikasikan di sini

\ Foto oleh Mylène Haudebourg di Unsplash

\