Kasus penembakan sekolah OpenAI memunculkan pertanyaan baru tentang peringatan keamanan AI dan rujukan polisi

Praktik keamanan AI sedang dalam pengawasan setelah kasus penembakan sekolah openai yang melibatkan tersangka Kanada yang aktivitas onlinenya ditandai beberapa bulan sebelum serangan.

OpenAI menandai tersangka beberapa bulan sebelum serangan Tumbler Ridge

Pembuat ChatGPT OpenAI mengungkapkan bahwa mereka mengidentifikasi akun Jesse Van Rootselaar pada Juni 2025 melalui sistem deteksi penyalahgunaan mereka untuk "pemajuan aktivitas kekerasan". Namun, perusahaan teknologi yang berbasis di San Francisco tersebut menyimpulkan pada saat itu bahwa aktivitas tersebut tidak memenuhi ambang batas internal mereka untuk rujukan kepada penegak hukum.

Perusahaan mengatakan secara khusus mempertimbangkan apakah akan memberi tahu Royal Canadian Mounted Police (RCMP) tentang akun tersebut. Selain itu, mereka memutuskan untuk tidak melanjutkan, menilai bahwa sinyal-sinyal tersebut tidak menunjukkan rencana yang segera dan kredibel untuk menyebabkan bahaya fisik serius.

OpenAI kemudian melarang akun tersebut pada Juni 2025 karena melanggar kebijakan penggunaannya. Keputusan itu diambil beberapa bulan sebelum tragedi yang kemudian terjadi di bagian terpencil British Columbia.

Penembakan sekolah mematikan di British Columbia

Tersangka berusia 18 tahun kemudian melakukan serangan sekolah di kota kecil Tumbler Ridge, menewaskan delapan orang sebelum meninggal akibat luka tembak yang ia timbulkan sendiri. Insiden yang dilaporkan minggu lalu ini adalah salah satu penembakan sekolah terburuk dalam sejarah Kanada dan telah mengintensifkan perdebatan tentang bagaimana perusahaan teknologi menangani perilaku pengguna berisiko tinggi.

Menurut RCMP, Van Rootselaar pertama kali membunuh ibunya dan saudara tirinya di rumah keluarga sebelum menyasar sekolah terdekat. Selain itu, polisi mengatakan penembak memiliki riwayat kontak terkait kesehatan mental dengan penegak hukum sebelumnya, meskipun sifat spesifik dari interaksi tersebut tidak dirinci.

Polisi melaporkan bahwa korban termasuk seorang asisten pengajar berusia 39 tahun dan lima siswa berusia 12 hingga 13 tahun. Kota tersebut, yang berpenduduk sekitar 2.700 orang di Canadian Rockies, terletak lebih dari 1.000 km (600 mil) timur laut Vancouver, dekat perbatasan dengan Alberta.

Ambang batas penegakan hukum dan respons OpenAI

Dalam menjelaskan keputusannya untuk tidak menghubungi pihak berwenang lebih awal, OpenAI mengatakan standar mereka untuk menghubungi penegak hukum berpusat pada apakah suatu kasus melibatkan risiko segera dan kredibel terhadap bahaya fisik serius bagi orang lain. Pada saat itu, perusahaan mengatakan, mereka tidak mengidentifikasi perencanaan konkret atau segera yang akan memicu rujukan semacam itu.

Perusahaan mencatat bahwa ambang batas rujukan ini dimaksudkan untuk menyeimbangkan privasi pengguna dengan kewajiban keamanan. Namun, pengungkapan tersebut telah memicu pertanyaan baru tentang apakah kriteria eskalasi yang ada memadai ketika tanda-tanda peringatan dini muncul dalam interaksi pengguna dengan alat AI seperti ChatGPT.

Setelah berita penembakan sekolah menyebar, karyawan di OpenAI menghubungi RCMP dengan rincian tentang Van Rootselaar dan aktivitas historis yang terkait dengan akun tersebut. Wall Street Journal adalah yang pertama melaporkan tentang pertimbangan internal perusahaan dan penjangkauan selanjutnya.

Pernyataan perusahaan setelah tragedi Tumbler Ridge

Dalam pernyataan publik, juru bicara OpenAI mengatakan: "Pikiran kami bersama semua orang yang terkena dampak tragedi Tumbler Ridge. Kami secara proaktif menghubungi Royal Canadian Mounted Police dengan informasi tentang individu tersebut dan penggunaan ChatGPT mereka, dan kami akan terus mendukung penyelidikan mereka." Selain itu, perusahaan menekankan kerja sama berkelanjutan mereka dengan pihak berwenang Kanada.

Meskipun demikian, motif penembakan masih belum jelas, dan penyelidik belum mengungkapkan apa, jika ada, hubungan langsung yang ada antara interaksi tersangka dengan ChatGPT dan serangan akhirnya. Kasus ini tetap mempertajam fokus global tentang bagaimana platform AI mendeteksi, menilai, dan merespons ancaman potensial.

Kekerasan mematikan terburuk Kanada sejak 2020

Pihak berwenang menggambarkan serangan Tumbler Ridge sebagai kekerasan mematikan terburuk Kanada sejak 2020, ketika seorang pria bersenjata di Nova Scotia membunuh 13 orang dan menyalakan api yang menyebabkan kematian sembilan orang lainnya. Namun, peristiwa terbaru memiliki dimensi tambahan karena bersinggungan dengan tanggung jawab yang berkembang dari penyedia AI.

Saat pembuat kebijakan dan penegak hukum meninjau keadaan, episode penembakan sekolah openai kemungkinan akan memicu perdebatan tentang kapan dan bagaimana perusahaan AI harus meningkatkan perilaku pengguna yang mengkhawatirkan kepada pihak berwenang, dan apakah standar rujukan yang ada cukup mengatasi risiko digital yang muncul.

Singkatnya, tragedi di British Columbia menggarisbawahi keseimbangan kompleks antara privasi, penilaian risiko, dan keselamatan publik saat platform AI menjadi sangat tertanam dalam kehidupan sehari-hari, memaksa regulator dan perusahaan teknologi untuk menilai kembali protokol mereka untuk menangani ancaman potensial.