Pemerintah Inggris sedang bergerak untuk memperketat regulasi penggunaan chatbot kecerdasan buatan untuk melindungi anak-anak dengan lebih baik dari konten berbahaya dan ilegal.
Perdana Menteri Keir Starmer telah mengumumkan sebuah proses untuk mengisi kekosongan hukum yang memungkinkan penyedia chatbot beroperasi di luar undang-undang keamanan online utama. Hal ini akan memaksa perusahaan yang membuat dan menjalankan chatbot AI untuk secara aktif memberantas konten ilegal dan memastikan platform mereka aman bagi pengguna yang lebih muda.
Sekarang, pemerintah mengklaim akan mengubah cara Online Safety Act ditegakkan dan menentukan bagaimana chatbot harus mematuhi undang-undang tersebut. Regulasi ini dirancang jauh lebih awal dalam prosesnya, tetapi terutama disesuaikan dengan tuntutan platform media sosial dan forum publik di mana orang dapat memposting konten mereka. Baik mereka yang menjalankan chatbot AI pribadi maupun mereka yang menggunakannya tidak mendapat cakupan yang setara, dan tanggung jawab mereka tetap tidak jelas. Starmer berjanji akan menutup celah ini segera.
Perusahaan chatbot perlu mematuhi kewajiban hukum yang sama seperti perusahaan online lainnya, peringatnya, atau akan dikenai sanksi. Pemerintah mengatakan perubahan ini harus memastikan bahwa penyedia chatbot secara aktif memantau sistem mereka dan memblokir materi ilegal. Sebelum pengumumannya, Starmer mengatakan tidak ada perusahaan teknologi yang akan dikecualikan dari undang-undang tersebut.
Pemerintah juga khawatir bahwa memperlakukan chatbot AI secara berbeda dari platform media sosial dapat membuat anak-anak rentan terhadap konten berbahaya atau tidak pantas. Pejabat percaya bahwa jika chatbot AI ingin menjangkau audiens yang diinginkan, terutama pengguna remaja dan pemuda, perlindungan yang lebih ketat diperlukan.
Kewenangan baru untuk mengatasi teknologi yang berubah cepat
Selain mengisi kesenjangan hukum, pemerintah akan menciptakan kewenangan baru yang akan memungkinkan tindakan lebih cepat ketika risiko muncul. Daripada menunggu Parlemen mengesahkan undang-undang yang sepenuhnya baru, regulator akan merespons teknologi dengan lebih cepat.
Ini adalah cara untuk memastikan bahwa perlindungan selaras dengan kemajuan pesat dalam kecerdasan buatan. Alat AI berkembang dengan cepat dan bergerak ke area baru. Akibatnya, risiko dapat muncul secara tiba-tiba, dan regulator memerlukan fleksibilitas untuk mengatasinya.
Starmer baru-baru ini menunjuk pada risiko konten berbahaya yang dihasilkan AI, seperti kasus di mana teknologi digunakan untuk membuat gambar seksual orang tanpa persetujuan mereka.
Ia menyebut penggunaan semacam itu tidak dapat diterima dan mengatakan undang-undang yang ada harus ditegakkan terhadap mereka. Pemerintah mengatakan penegakan yang lebih baik akan memaksa perusahaan untuk merancang sistem yang lebih aman dari awal.
Ini dapat mencakup perlindungan yang dibangun ke dalam perangkat lunak chatbot untuk mengidentifikasi dan mencegah konten ilegal sebelum pengguna melihatnya. Perusahaan teknologi juga ditetapkan untuk memikul tanggung jawab atas bagaimana sistem AI mereka berperilaku.
Itu berarti mereka perlu memantau output, meningkatkan fitur keamanan untuk membuat sistem lebih aman, dan merespons dengan cepat ketika kesalahan terdeteksi.
Pemerintah bergerak untuk melindungi anak-anak dari bahaya
Penindakan terhadap chatbot AI adalah bagian dari tantangan yang lebih besar mengenai keamanan anak di hampir semua platform digital. Pemerintah sedang mempertimbangkan tindakan baru yang dapat lebih mengurangi risiko.
Satu saran yang sedang dikerjakan adalah persyaratan bahwa pengguna harus berusia tertentu untuk mengakses media sosial. Pejabat juga menjajaki bagaimana membatasi fitur seperti infinite scrolling dapat mendorong waktu layar yang berlebihan, serta membuat sulit bagi orang muda untuk melepaskan diri dari konten berbahaya atau adiktif.
Perubahan ini dapat datang setelah konsultasi publik tentang kesejahteraan anak-anak secara online. Orang tua, pendidik, dan ahli keamanan khawatir tentang dampak platform digital terhadap kesehatan mental kaum muda dan jumlah paparan terhadap konten yang tidak pantas.
Tujuan pemerintah yang lebih luas adalah menciptakan lingkungan online yang lebih aman di mana anak-anak dapat memanfaatkan teknologi tanpa terpapar bahaya serius.
Sumber: https://www.cryptopolitan.com/uk-cracks-down-on-ai-chatbots/
