جوجل تطور وكلاء الذكاء الاصطناعي Gemini للبنتاغون وسط معارضة

وكلاء الذكاء الاصطناعي Google Gemini يدعمون المهام على شبكات البنتاغون غير السرية

ستوفر Google وكلاء الذكاء الاصطناعي المدعومة بـ Gemini لوزارة الدفاع الأمريكية للعمل غير السري على شبكات البنتاغون، وفقًا لـ news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work" target="_blank" rel="nofollow noopener">Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai). أعلن وكيل وزارة الدفاع للبحث والهندسة إميل مايكل أن الوكلاء سيعملون في البداية على الشبكات غير السرية التي تخدم أكثر من 3 ملايين موظف في الوزارة. كما أشارت الوزارة إلى اهتمامها بتوسيع الوكلاء إلى الأنظمة السرية أو السرية للغاية، لكن المرحلة الحالية تظل غير سرية.

يتم تأطير هذا النشر كدعم للمهام على شبكات البنتاغون غير السرية. كما يثير أسئلة حوكمة فورية حيث يلتقي الطلب العسكري بالحواجز الأمنية المفروضة من قبل المزود.

لماذا هذا مهم للحوكمة والأخلاقيات والعمليات الدفاعية

كما أفاد TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai)، حث وزير الدفاع الشركات على السماح باستخدام أوسع للذكاء الاصطناعي لـ "جميع الأغراض القانونية"، مما يشير إلى ضغط لتخفيف قيود النموذج. يرفع هذا الموقف آثار المشتريات والامتثال والرقابة عبر سير عمل الدفاع. قد يواجه المزودون ذوو الحدود الصارمة احتكاكًا في العقود إذا بدت اللغة تمكن الاستقلالية بما يتجاوز سياساتهم.

يسلط العمل الأكاديمي الضوء على أن المخاطر ترتفع مع زيادة استقلالية وكيل الذكاء الاصطناعي وتقلص الإشراف البشري، بناءً على بحث arXiv (https://arxiv.org/abs/2502.02649?utm_source=openai). بالنسبة للعمليات الدفاعية، تجعل هذه الديناميكية قابلية التدقيق وعتبات التصعيد وتعيينات المساءلة محورية للنشر الآمن.

تمثل Anthropic نهجًا متناقضًا، رافضة تخفيف الحواجز حول الأسلحة المستقلة بالكامل أو المراقبة المحلية الجماعية. قال داريو أموديي، الرئيس التنفيذي، "لا يمكن بضمير جيد" الامتثال لتلك الجوانب، كما أفادت AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai). يؤكد هذا الموقف كيف يمكن لسياسات البائع أن تحد من بعض التطبيقات الدفاعية حتى عندما قد يكون الاستخدام مسموحًا به قانونيًا.

التأثير الفوري محدود: وكلاء الذكاء الاصطناعي Google Gemini محدودون بشبكات البنتاغون غير السرية في هذه المرحلة. يسمح هذا النطاق للفرق التشغيلية بتقييم الموثوقية والملاءمة للسياسة قبل أي طرح أوسع.

تشمل الحدود الرئيسية حواجز المزود التي تمنع استخدامات معينة ودفع إداري للترخيص بـ "جميع الأغراض القانونية". تعتمد الخطوات التالية على لغة العقد ومراجعات المخاطر والتوافق بين حواجز النموذج وسياسة الدفاع.

التوترات الرئيسية: الاستقلالية والمراقبة وحواجز المزود

دفع وزارة الدفاع لجميع الأغراض القانونية مقابل الحواجز الصارمة

تخلق دعوة الوزارة لـ "جميع الأغراض القانونية" احتكاكًا مع المزودين الذين يحافظون على حدود أمان صارمة. الجوهر هو إلى أي مدى يمكن أن تمتد الاستقلالية مع الحفاظ على المسؤولية البشرية والإشراف. سيشكل هذا التوتر التحديد ومعايير القبول ومسارات التصعيد لوكلاء الذكاء الاصطناعي.

رفض Anthropic للأسلحة المستقلة ومخاطر المراقبة الجماعية

رسمت Anthropic خطًا أحمر واضحًا برفض الاستخدامات المرتبطة بالأسلحة المستقلة بالكامل أو المراقبة المحلية الجماعية، كما ينعكس في التصريحات العامة لقيادتها. يضيق هذا الموقف مسارات دفاعية معينة ويعطي الأولوية للأنظمة التي يسيطر عليها البشر.

الأسئلة الشائعة حول وكلاء الذكاء الاصطناعي Google Gemini

هل ستوسع وزارة الدفاع وكلاء الذكاء الاصطناعي هؤلاء من الأنظمة غير السرية إلى الأنظمة السرية أو السرية للغاية، وعلى أي جدول زمني؟

أشارت الوزارة إلى اهتمامها بالتوسع إلى الشبكات السرية أو السرية للغاية؛ لم يتم الكشف عن جدول زمني عام.

كيف يؤثر رفض Anthropic لتخفيف الحواجز على مشتريات الذكاء الاصطناعي وسياسة البنتاغون؟

يقلل من النماذج المؤهلة ويضغط على العقود للحفاظ على حواجز صارمة، مما يؤثر على لغة الاستخدام المقبول وتوقعات الإشراف والقدرات التي يمكن للبنتاغون اعتمادها.