ماليزيا وإندونيسيا تقيدان Grok بسبب إساءة استخدام الذكاء الاصطناعي الإباحية

قيدت ماليزيا وإندونيسيا الوصول إلى Grok، روبوت الدردشة بالذكاء الاصطناعي المرتبط بمنصة التواصل الاجتماعي X التابعة لإيلون ماسك. جاء هذا القرار استجابةً للمخاوف من استخدام أداة الذكاء الاصطناعي لإنشاء صور مزيفة جنسية صريحة لأفراد حقيقيين.

يتيح Grok للمستخدمين إنشاء الصور وتعديلها. ومع ذلك، أعربت السلطات في كلا البلدين عن مخاوفها من أنه يُستخدم بشكل متزايد للتلاعب بالصور لتحويلها إلى محتوى فاضح أو مُجنسن دون موافقة. وقد سلط المنظمون الضوء على المخاطر التي تهدد النساء والأطفال، مشيرين إلى أن الأداة يمكن إساءة استخدامها بسهولة لإنتاج مقاطع deepfake إباحية.

أصبحت ماليزيا وإندونيسيا الآن أول دولتين في العالم تحظران Grok بالكامل، متخذتين موقفاً قوياً ضد أدوات الذكاء الاصطناعي التي تعتقد السلطات أنها تتقدم بشكل أسرع من لوائح الحماية.

Grok يتجاوز الخطوط القانونية والاجتماعية

يشعر المنظمون بالقلق إزاء قضايا أوسع تتجاوز روبوت دردشة واحد، حيث يكشف ارتفاع الصور الجنسية الناتجة عن الذكاء الاصطناعي عن ثغرات في قوانين السلامة على الإنترنت ويشكل مخاطر على المستخدمين. في ماليزيا، أشار منظم الاتصالات إلى أنه حذر X سابقاً بشأن إساءة استخدام ذكائها الاصطناعي، لكنه شعر أن استجابة الشركة أعطت الأولوية للإبلاغ من قبل المستخدمين على معالجة المشكلة الأساسية.

أكدت وزارة الشؤون الرقمية الإندونيسية على الحاجة إلى الكرامة وحقوق الإنسان، مشيرةً إلى أن أدوات الذكاء الاصطناعي التي تنشئ محتوى جنسياً دون موافقة تضر بالثقة العامة وتعرض الفئات الضعيفة للخطر. وقد طلبت الحكومة من X توضيح كيفية التحكم في Grok وإدارته.

يعكس الحظر أيضاً موقف إندونيسيا الطويل الأمد من المحتوى على الإنترنت. فقد حظرت البلاد سابقاً منصات مثل Pornhub وOnlyFans، ويرى المسؤولون أن الصور الجنسية الناتجة عن الذكاء الاصطناعي امتداد لنفس المشكلة، يتم تقديمها الآن من خلال تقنية أحدث.

اقرأ أيضاً: داخل أزمة الإباحية deepfake في Grok والحساب القانوني المقبل

يكتسب جدل Grok اهتماماً خارج جنوب شرق آسيا. في المملكة المتحدة، يقوم المنظمون حالياً بتقييم ما إذا كانت X تلتزم بلوائح السلامة على الإنترنت. بالإضافة إلى ذلك، انتقد القادة السياسيون علناً استخدام التكنولوجيا لإنشاء صور مزيفة صريحة.

بالنسبة للمستخدمين، التأثير شخصي. يفيد بعض الأفراد الذين تم تغيير صورهم باستخدام Grok بأن الإبلاغ عن المحتوى لم يفعل الكثير لمنع انتشاره. في بعض الحالات، أدى تشجيع الآخرين على الإبلاغ عن المنشورات إلى رؤية المزيد من الأشخاص للصور المزيفة، مما زاد من الضرر.

تدفع ردود الفعل المتزايدة X إلى إعادة النظر في كيفية عمل Grok، خاصة مع بدء الحكومات في النظر إلى أدوات الذكاء الاصطناعي كمنتجات منظمة بدلاً من ميزات تجريبية.

ظهرت المشاركة ماليزيا وإندونيسيا تقيدان Grok بسبب إساءة استخدام الذكاء الاصطناعي الجنسي الصريح أولاً على Technext.