أرسل المدعي العام لولاية كاليفورنيا روب بونتا رسالة وقف وكف إلى شركة xAI التابعة لإيلون ماسك، مطالباً الشركة بالتوقف الفوري عن إنتاج ونشر صور التزييف العميق المسيئة التي ينتجها روبوت الدردشة Grok الخاص بها.
أصدر المدعي العام لولاية كاليفورنيا رسالة الوقف والكف يوم الجمعة رداً على مزاعم بأن Grok كان يُستخدم لإنشاء محتوى غير قانوني يتضمن أطفالاً وصوراً للبالغين دون موافقة، مما أدى إلى فتح تحقيق من قبل ولاية كاليفورنيا. وجادل بونتا بأن إنشاء وتوزيع ونشر وعرض مواد الاعتداء الجنسي على الأطفال CSAM أمر غير قانوني.
المدعي العام لولاية كاليفورنيا يستهدف xAI بسبب سوء الاستخدام المزعوم لـ Grok
في وقت سابق من هذا الأسبوع، أعلن مكتب المدعي العام لولاية كاليفورنيا أنه يحقق في xAI بسبب مزاعم بأن روبوت الدردشة Grok الخاص بالشركة الناشئة كان يُستخدم لإنتاج صور غير لائقة وبدون موافقة للنساء والأطفال. وفي المقابل، أرسلت الحكومة رسالة وقف وكف إلى الشركة.
كما أكد مكتب المدعي العام أن xAI يبدو أنها "تسهل الإنتاج الواسع النطاق" للصور غير اللائقة وبدون موافقة، والتي يتم بعد ذلك "استخدامها لمضايقة النساء والفتيات عبر الإنترنت". ووفقاً لمكتب المدعي العام، وجد أحد الأبحاث أن أكثر من نصف الـ 20,000 صورة التي أنتجتها xAI بين عيد الميلاد ورأس السنة الجديدة أظهرت أشخاصاً يرتدون ملابس قليلة جداً، وبدا بعضهم كأطفال.
ادعى روب بونتا في الإعلان أن ممارسات الشركة انتهكت القوانين المدنية لولاية كاليفورنيا، بما في ذلك قانون كاليفورنيا المدني القسم 1708.86، وقانون العقوبات في كاليفورنيا الأقسام 311 وما يليها و 647(j)(4)، وقانون الأعمال والمهن في كاليفورنيا القسم 17200.
تتوقع وزارة العدل في كاليفورنيا أن تؤكد xAI جهودها لمعالجة هذه القضايا واتخاذ إجراءات فورية لحلها خلال الأيام الخمسة المقبلة.
ومع ذلك، كان حساب السلامة الخاص بـ X قد أدان سابقاً هذا النوع من سلوك المستخدمين. وقد أوضح في 4 يناير أنه يتخذ إجراءات ضد المحتوى غير المشروع على X، مثل مواد الاعتداء الجنسي على الأطفال CSAM، من خلال حذفه وتعليق الحسابات إلى أجل غير مسمى والتعاون مع سلطات إنفاذ القانون والحكومات البلدية حسب الحاجة.
والجدير بالذكر أنه في 4 يناير، حذر إيلون ماسك من أن أي شخص يستخدم أو يطالب Grok بإنشاء محتوى غير قانوني سيواجه نفس العواقب كما لو قام بتحميله.
المدعون العامون يكثفون الضغط على شركات الذكاء الاصطناعي بشأن سلامة الأطفال
أدى تطوير أدوات الذكاء الاصطناعي التوليدية المجانية إلى زيادة مقلقة في المحتوى البالغ غير التوافقي. وقد ابتليت هذه المشكلة بالعديد من المنصات، وليس فقط X.
على سبيل المثال، التقى المدعي العام بونتا والمدعي العام جينينغز من ولاية ديلاوير مع OpenAI في سبتمبر من العام الماضي للتعبير عن مخاوفهما الجدية بشأن العدد المتزايد من التقارير حول كيفية تفاعل منتجات OpenAI مع الشباب.
في أغسطس من نفس العام، أرسل المدعي العام بونتا، إلى جانب 44 مدعياً عاماً آخر، رسالة إلى 12 شركة رائدة في مجال الذكاء الاصطناعي بعد تقارير عن تفاعلات غير لائقة بين روبوتات الدردشة قائمة على الذكاء الاصطناعي والأطفال. وأرسلت الرسائل إلى Anthropic وApple وChai AI وGoogle وLuka Inc. وMeta وMicrosoft وNomi AI وOpenAI وPerplexity AI وReplika وxAI.
أبلغ المدعي العام بونتا والمدعون العامون الـ 44 الشركات في الرسالة بأن الولايات في جميع أنحاء البلاد كانت تراقب عن كثب كيفية تطوير الشركات لسياسات سلامة الذكاء الاصطناعي الخاصة بها. كما شددوا على أن هذه الشركات لديها واجب قانوني تجاه الأطفال كمستهلكين حيث أنها تستفيد من استخدام الأطفال لمنتجاتها.
في عام 2023، انضم المدعي العام بونتا إلى تحالف من الحزبين من 54 ولاية وإقليماً في إرسال رسالة إلى القادة في الكونغرس للدعوة إلى إنشاء لجنة خبراء للتحقيق في الاستخدام المحتمل للذكاء الاصطناعي لاستغلال الأطفال من خلال مواد الاعتداء الجنسي على الأطفال CSAM.
وقد طلب التحالف من لجنة الخبراء اقتراح قوانين لحماية الأطفال من مثل هذه الإساءة. "إن إنتاج مواد الاعتداء الجنسي على الأطفال CSAM يخلق سجلاً دائماً لوقوع الطفل ضحية"، وفقاً لوزارة العدل الأمريكية.
إذا كنت تقرأ هذا، فأنت بالفعل متقدم. ابق هناك مع نشرتنا الإخبارية.
المصدر: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
