OpenAI telah menerbitkan cetak biru kebijakan yang menguraikan langkah-langkah keamanan baru yang dapat diambil industri kecerdasan buatan (AI) untuk mencegah penggunaan teknologi tersebut dalam membuat materi pelecehan seksual anak.
"Eksploitasi seksual anak adalah salah satu tantangan paling mendesak di era digital," kata OpenAI dalam pengumumannya pada 8 April. "AI dengan cepat mengubah bagaimana bahaya ini muncul di seluruh industri dan bagaimana mereka dapat diatasi dalam skala besar."
Dengan pemikiran ini, perusahaan mengungkapkan cetak biru kebijakannya, yang menguraikan "jalur praktis ke depan untuk memperkuat kerangka kerja perlindungan anak AS di era AI."
Cetak biru tersebut mencerminkan dan menggabungkan masukan dari beberapa organisasi terkemuka dan ahli di seluruh ekosistem keselamatan anak, termasuk National Center for Missing & Exploited Children (NCMEC), Attorney General Alliance—kelompok nirlaba jaksa agung negara bagian di Amerika Serikat—dan Thorn, organisasi nirlaba yang berdedikasi untuk melindungi anak-anak dari pelecehan seksual, menurut raksasa AI tersebut.
"Tidak ada satu intervensi pun yang dapat mengatasi tantangan ini sendirian," kata OpenAI. "Kerangka kerja ini menyatukan pendekatan hukum, operasional, dan teknis untuk lebih baik mengidentifikasi risiko, mempercepat respons, dan mendukung akuntabilitas, sambil memastikan bahwa otoritas penegakan tetap kuat seiring teknologi berkembang."
Langkah ini muncul ketika kekhawatiran semakin meningkat seputar penyalahgunaan alat AI, khususnya fungsi pembuatan gambar, untuk menghasilkan gambar eksplisit perempuan dan anak-anak, termasuk selebriti dan tokoh publik.
Pada awal Januari, pengawas komunikasi Inggris, Ofcom, terpaksa melakukan kontak mendesak dengan X dan xAI "untuk memahami langkah-langkah apa yang telah mereka ambil untuk mematuhi kewajiban hukum mereka dalam melindungi pengguna di Inggris," setelah muncul laporan bahwa chatbot AI Elon Musk, Grok, digunakan untuk membuat dan menyebarkan gambar eksplisit anak-anak dan perempuan dengan pakaian mereka dihilangkan secara digital.
Kekhawatiran serupa disuarakan di Uni Eropa, dengan otoritas perlindungan data Italia memperingatkan pengguna dan penyedia alat AI tentang risiko terhadap "hak dan kebebasan fundamental" yang ditimbulkan oleh deepfake AI.
Untuk mengatasi kekhawatiran tersebut, OpenAI mengatakan memiliki tiga prioritas utama: memodernisasi undang-undang untuk memerangi materi pelecehan seksual anak yang dihasilkan dan diubah AI, meningkatkan pelaporan dan koordinasi penyedia untuk mendukung investigasi yang lebih efektif, dan membangun langkah-langkah keamanan berdasarkan desain langsung ke dalam sistem AI untuk mencegah dan mendeteksi penyalahgunaan.
"Bersama-sama, langkah-langkah ini memungkinkan industri untuk menangani keselamatan anak lebih awal dan lebih efektif," kata perusahaan dalam pernyataannya pada 8 April. "Dengan mengganggu upaya eksploitasi lebih cepat, meningkatkan kualitas sinyal yang dikirim ke penegak hukum, dan memperkuat akuntabilitas di seluruh ekosistem, kerangka kerja ini bertujuan untuk mencegah bahaya sebelum terjadi dan membantu memastikan perlindungan lebih cepat bagi anak-anak ketika risiko muncul."
OpenAI mengatakan juga berkomitmen untuk terus memperkuat perlindungan untuk mencegah penyalahgunaan sistemnya, serta bekerja sama dengan mitra seperti NCMEC dan penegak hukum untuk meningkatkan deteksi dan pelaporan.
Dalam pernyataan bersama tentang cetak biru keselamatan anak, Jaksa Agung Negara Bagian Jeff Jackson (dari North Carolina) dan Derek Brown (dari Utah), Ketua Bersama Satuan Tugas AI dari Attorney General Alliance, mengatakan mereka "menyambut cetak biru ini sebagai langkah bermakna menuju penyelarasan praktik keselamatan anak sektor teknologi dengan realitas penegakan yang dihadapi kantor kami setiap hari."
Keduanya secara khusus menyoroti pengakuan kerangka kerja bahwa perlindungan AI generatif (GenAI) yang efektif memerlukan pertahanan berlapis—bukan kontrol teknis tunggal, tetapi kombinasi deteksi, mekanisme penolakan, pengawasan manusia, dan adaptasi berkelanjutan terhadap tren penyalahgunaan yang muncul.
"Ini mencerminkan apa yang kami lihat dalam praktik: ancaman terus berkembang, dan solusi statis tidak memadai," kata para jaksa agung negara bagian tersebut.
Pengumuman OpenAI juga disambut baik oleh Michelle DeLaune, Presiden dan CEO NCMEC, yang memperingatkan bahwa GenAI "mempercepat kejahatan eksploitasi seksual anak online dengan cara yang sangat mengkhawatirkan — menurunkan hambatan, meningkatkan skala, dan memungkinkan bentuk-bentuk bahaya baru."
DeLaune menambahkan bahwa dia "didorong untuk melihat perusahaan seperti OpenAI merenungkan bagaimana alat-alat ini dapat dirancang dengan lebih bertanggung jawab, dengan perlindungan yang dibangun sejak awal."
Agar kecerdasan buatan (AI) dapat berfungsi dengan baik dalam hukum dan berkembang menghadapi tantangan yang terus berkembang, ia perlu mengintegrasikan sistem blockchain perusahaan yang memastikan kualitas dan kepemilikan input data—memungkinkannya menjaga keamanan data sambil juga menjamin ketidakberubahan data. Lihat liputan CoinGeek tentang teknologi yang muncul ini untuk mempelajari lebih lanjut mengapa blockchain Perusahaan akan menjadi tulang punggung AI.
Tonton: Mendemonstrasikan potensi fusi blockchain dengan AI
Sumber: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
