Google 在面对反对声浪中为五角大楼推进 Gemini AI 代理

Google Gemini AI代理在五角大楼非机密网络上支持任务

根据Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai)报道,Google将为美国国防部提供由Gemini驱动的AI代理,用于五角大楼网络上的非机密工作。国防部负责研究与工程的副部长Emil Michael宣布,这些代理最初将在服务该部门超过300万名人员的非机密网络上运行。该部门也表示有兴趣将代理扩展到机密或绝密系统,但目前阶段仍保持非机密。

此次部署被定位为对五角大楼非机密网络任务的支持。它也引发了即时的治理问题,因为军事需求遇到了供应商施加的安全护栏。

为何这对治理、伦理和国防运营至关重要

据TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai)报道,国防部长敦促公司允许更广泛的AI用于"所有合法目的",表明放宽模型限制的压力。这种立场提升了国防工作流程中的采购、合规和监督影响。如果语言似乎允许超出其政策的自主性,具有严格限制的供应商可能面临合同摩擦。

基于arXiv研究(https://arxiv.org/abs/2502.02649?utm_source=openai),学术研究强调,随着AI代理自主性增加和人类监督减少,风险也会上升。对于国防运营来说,这种动态使可审计性、升级阈值和问责分配成为安全部署的核心。

Anthropic代表了一种对比性的方法,拒绝放宽围绕全自主武器或大规模国内监控的护栏。据AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai)报道,首席执行官Dario Amodei表示"在良知上无法"遵守这些方面。这一立场突显了即使使用可能在法律上是允许的,供应商政策如何限制某些国防应用。

即时影响是有界限的:Google Gemini AI代理在此阶段仅限于五角大楼非机密网络。这一范围允许运营团队在任何更广泛的推出之前评估可靠性和政策适配性。

关键限制包括不允许某些用途的供应商护栏,以及授权"所有合法目的"的部门推动。下一步取决于合同语言、风险审查以及模型护栏与国防政策之间的一致性。

关键紧张关系:自主性、监控和供应商护栏

国防部推动所有合法目的与严格护栏的对立

该部门对"所有合法目的"的要求与维持严格安全限制的供应商产生了摩擦。关键在于在保持人类责任和监督的同时,自主性可以延伸多远。这种紧张关系将塑造AI代理的范围界定、验收标准和升级路径。

Anthropic对自主武器和大规模监控风险的拒绝

Anthropic通过拒绝与全自主武器或大规模国内监控相关的用途划定了明确的红线,这反映在其领导层的公开声明中。这一立场缩小了某些国防途径,并优先考虑人类控制的系统。

关于Google Gemini AI代理的常见问题

国防部是否会将这些AI代理从非机密扩展到机密或绝密系统,时间表如何?

该部门已表示有兴趣扩展到机密或绝密网络;尚未公布公开的时间表。

Anthropic拒绝放宽护栏如何影响五角大楼的AI采购和政策?

它减少了符合条件的模型,并迫使合同保留严格的护栏,影响可接受使用的语言、监督期望以及五角大楼可以采用的功能。