Google พัฒนาเอเจนต์ AI Gemini สำหรับกระทรวงกลาโหมสหรัฐฯ ท่ามกลางการต่อต้าน

Google Gemini AI agents รองรับงานบนเครือข่ายที่ไม่จัดประเภทของ Pentagon

Google จะจัดหา AI agents ที่ขับเคลื่อนด้วย Gemini ให้กับกระทรวงกลาโหมสหรัฐฯ สำหรับงานที่ไม่จัดประเภทบนเครือข่าย Pentagon ตามรายงานของ news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work" target="_blank" rel="nofollow noopener">Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai) รองเลขาธิการกลาโหมฝ่ายวิจัยและวิศวกรรม Emil Michael ประกาศว่า agents จะดำเนินการบนเครือข่ายที่ไม่จัดประเภทในระยะแรก ซึ่งให้บริการบุคลากรกว่า 3 ล้านคนของกระทรวง กระทรวงยังแสดงความสนใจในการขยาย agents ไปยังระบบที่จัดประเภทหรือเป็นความลับสูงสุด แต่ขั้นตอนปัจจุบันยังคงเป็นงานที่ไม่จัดประเภท

การปรับใช้นี้ถูกกำหนดให้เป็นการสนับสนุนงานบนเครือข่ายที่ไม่จัดประเภทของ Pentagon นอกจากนี้ยังทำให้เกิดคำถามด้านการกำกับดูแลโดยทันทีเมื่อความต้องการทางทหารพบกับมาตรการป้องกันความปลอดภัยที่ผู้ให้บริการกำหนด

ทำไมเรื่องนี้สำคัญสำหรับการกำกับดูแล จริยธรรม และการปฏิบัติการป้องกันประเทศ

ตามรายงานของ TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai) รัฐมนตรีกลาโหมได้เรียกร้องให้บริษัทอนุญาตการใช้ AI ในวงกว้างขึ้นสำหรับ "วัตถุประสงค์ที่ถูกกฎหมายทั้งหมด" ซึ่งส่งสัญญาณถึงแรงกดดันให้ผ่อนคลายข้อจำกัดของโมเดล ท่าทีนี้ยกระดับผลกระทบด้านการจัดซื้อ การปฏิบัติตามกฎระเบียบ และการกำกับดูแลในเวิร์กโฟลว์การป้องกันประเทศ ผู้ให้บริการที่มีข้อจำกัดเข้มงวดอาจเผชิญกับข้อขัดแย้งในสัญญาหากภาษาดูเหมือนจะเปิดใช้งานความเป็นอิสระเกินกว่านโยบายของพวกเขา

งานวิชาการเน้นย้ำว่าความเสี่ยงเพิ่มขึ้นเมื่อความเป็นอิสระของ AI agent เพิ่มขึ้นและการกำกับดูแลของมนุษย์ลดลง โดยอ้างอิงจากการวิจัยของ arXiv (https://arxiv.org/abs/2502.02649?utm_source=openai) สำหรับการปฏิบัติการป้องกันประเทศ พลวัตนี้ทำให้การตรวจสอบได้ เกณฑ์การเพิ่มระดับ และการกำหนดความรับผิดชอบเป็นศูนย์กลางในการปรับใช้อย่างปลอดภัย

Anthropic แสดงแนวทางที่ตรงกันข้าม โดยปฏิเสธที่จะผ่อนคลายมาตรการป้องกันเกี่ยวกับอาวุธอัตโนมัติอย่างสมบูรณ์หรือการเฝ้าระวังภายในประเทศจำนวนมาก "ไม่สามารถปฏิบัติตามด้วยสติสัมปชัญญะที่ดี" กับแง่มุมเหล่านั้น กล่าวโดย Dario Amodei ซีอีโอ ตามรายงานของ AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai) ท่าทีนี้เน้นย้ำว่านโยบายของผู้ขายสามารถจำกัดการใช้งานด้านการป้องกันประเทศบางอย่างได้ แม้ว่าการใช้งานอาจได้รับอนุญาตตามกฎหมาย

ผลกระทบโดยตรงมีขอบเขตจำกัด: Google Gemini AI agents ถูกจำกัดไว้ที่เครือข่ายที่ไม่จัดประเภทของ Pentagon ในขั้นตอนนี้ ขอบเขตนั้นทำให้ทีมปฏิบัติการสามารถประเมินความน่าเชื่อถือและความเหมาะสมของนโยบายก่อนการเปิดตัวในวงกว้างใดๆ

ข้อจำกัดหลักประกอบด้วยมาตรการป้องกันของผู้ให้บริการที่ไม่อนุญาตการใช้งานบางอย่างและแรงผลักดันของกระทรวงเพื่ออนุญาต "วัตถุประสงค์ที่ถูกกฎหมายทั้งหมด" ขั้นตอนถัดไปขึ้นอยู่กับภาษาในสัญญา การตรวจสอบความเสี่ยง และความสอดคล้องระหว่างมาตรการป้องกันของโมเดลและนโยบายการป้องกันประเทศ

ความตึงเครียดสำคัญ: ความเป็นอิสระ การเฝ้าระวัง และมาตรการป้องกันของผู้ให้บริการ

แรงผลักดันของ DoD สำหรับวัตถุประสงค์ที่ถูกกฎหมายทั้งหมดเทียบกับมาตรการป้องกันที่เข้มงวด

การเรียกร้องของกระทรวงสำหรับ "วัตถุประสงค์ที่ถูกกฎหมายทั้งหมด" สร้างความขัดแย้งกับผู้ให้บริการที่รักษาข้อจำกัดความปลอดภัยที่เข้มงวด ประเด็นสำคัญคือความเป็นอิสระสามารถขยายไปได้ไกลแค่ไหนในขณะที่รักษาความรับผิดชอบและการกำกับดูแลของมนุษย์ ความตึงเครียดนี้จะกำหนดรูปแบบการกำหนดขอบเขต เกณฑ์การยอมรับ และเส้นทางการเพิ่มระดับสำหรับ AI agents

การปฏิเสธของ Anthropic เกี่ยวกับอาวุธอัตโนมัติและความเสี่ยงจากการเฝ้าระวังจำนวนมาก

Anthropic ได้กำหนดเส้นแดงที่ชัดเจนโดยปฏิเสธการใช้งานที่เกี่ยวข้องกับอาวุธอัตโนมัติอย่างสมบูรณ์หรือการเฝ้าระวังภายในประเทศจำนวนมาก ตามที่สะท้อนในคำแถลงสาธารณะของผู้นำ ตำแหน่งนั้นจำกัดเส้นทางการป้องกันประเทศบางอย่างและให้ความสำคัญกับระบบที่มนุษย์ควบคุม

คำถามที่พบบ่อยเกี่ยวกับ Google Gemini AI agents

DoD จะขยาย AI agents เหล่านี้จากระบบที่ไม่จัดประเภทไปยังระบบที่จัดประเภทหรือเป็นความลับสูงสุดหรือไม่ และในไทม์ไลน์ใด

กระทรวงได้แสดงความสนใจในการขยายไปยังเครือข่ายที่จัดประเภทหรือเป็นความลับสูงสุด ไม่มีการเปิดเผยไทม์ไลน์สาธารณะ

การปฏิเสธของ Anthropic ที่จะผ่อนคลายมาตรการป้องกันส่งผลต่อการจัดซื้อ AI และนโยบายของ Pentagon อย่างไร

มันลดโมเดลที่มีสิทธิ์และสร้างแรงกดดันให้สัญญารักษามาตรการป้องกันที่เข้มงวด ส่งผลต่อภาษาการใช้งานที่ยอมรับได้ ความคาดหวังในการกำกับดูแล และความสามารถใดที่ Pentagon สามารถนำมาใช้ได้