Sam Altman 关于 OpenAI 与国防部争议性协议的 AMA 摘要

在周五深夜,随着中东地区的地缘政治紧张局势升级为公开冲突,Sam Altman 在 X 上宣布了一项交易,这是科技界长期担忧但很少有人预料会如此突然发生的事情。

OpenAI 正式与美国战争部 (DoW) 签署协议,在军方最敏感的机密网络中部署其前沿模型。 

这一公告立即引发了激烈的争议风暴。几分钟内,该讨论串成为"取消 ChatGPT"标签、国家安全专家尖锐质询以及出卖人类未来等煽动性指控的战场。

对于一家建立在确保 AGI 造福全人类原则基础上的公司来说,转向成为主要国防承包商感觉像是行业道德格局的重大转变。

这次突然转变的背景与交易本身一样戏剧性。就在 Altman 宣布前几小时,唐纳德·特朗普总统发布了一项全面行政命令,指示所有联邦机构立即停止使用来自 Anthropic(OpenAI 主要竞争对手)的技术。

战争部长 Pete Hegseth 将 Anthropic 标记为"国家安全的供应链风险",这一称号通常保留给像华为这样的外国对手。

据报道,Anthropic 拒绝无条件授予五角大楼访问其 Claude 模型的权限,坚持在合约中设定"红线",禁止该技术用于国内大规模监控或完全自主的致命武器。

Sam Altman,OpenAI 首席执行官

OpenAI 填补了竞争对手离开后留下的空白。虽然政府要求 AI 模型可用于"所有合法目的",但 OpenAI 将其进入不视为投降,而是一种复杂的妥协。 

在他的问答环节 (AMA) 中,Altman 声称 OpenAI 获得了 Anthropic 所寻求的相同安全保障,但通过多层方法而非最后通牒来实现。

通过同意在现有法律框架内工作,引用第四修正案和治安官法,OpenAI 有效地缓解了一场对峙,该对峙曾威胁在一场活跃战争期间让美国军方失去前沿 AI 能力。

OpenAI Altman 讨论串的重点摘要

讨论串迅速从企业公关转向关于 AI 战争伦理的激烈辩论。其中一个最受欢迎的问题涉及 OpenAI 使命的根本转变:为什么从"人类改善"转向国防合作?

Altman 的回应一如既往地务实:"世界是一个复杂、混乱且有时危险的地方。我们相信负责保卫国家的人应该获得最好的工具。"

Altman 详细说明了旨在防止 AI 成为自主执行者的技术保障措施。 

这些措施包括"仅限云端"部署策略,防止模型直接嵌入边缘设备或武器硬件,以及部署"现场部署工程师"(FDE) 来监督机密使用。 

然而,讨论串仍持怀疑态度。批评者指出社区注释强调,根据美国爱国者法案,"合法使用"仍可能包含大规模数据收集。

当被问及 AI 导致全球灾难的可能性时,Altman 异常简短,暗示国家安全合作实际上可能通过让国家和开发者保持一致来降低风险。

最具启发性的交流之一涉及治理。当被问及联邦政府是否最终会将 OpenAI 国有化时,Altman 承认:"我当然想过这个问题,但在当前的轨迹上似乎不太可能。"

这一承认并没有安抚那些将战争部更名和 Anthropic 列入黑名单视为迈向国有 AGI 的第一步的人。

伦理、先例和失控

这项交易的影响远超单一合约。通过接受其竞争对手的供应链风险指定,OpenAI 隐含地验证了一个世界,在这个世界中,政府可以根据公司对军事效用的意识形态承诺来选择赢家和输家。

正如 Altman 所承认的,这树立了一个可怕的先例,私营公司可能会感到压力而降低其伦理保障,以避免被贴上国家安全威胁的标签。

从伦理角度来看,人类参与循环的要求仍然是最具争议的点。

虽然 OpenAI 坚持人类将保留使用武力的责任,但讨论串中的国防专家指出,当前战争部政策(指令 3000.09)对于在高速数字战斗中什么构成有意义的人类控制定义非常模糊。 

Sam Altman

如果 AI 处理目标数据的速度比人类眨眼还快,人类是否真正参与循环,还是仅仅是机器决策的橡皮图章?

AGI 失控的风险不再是遥远未来的理论问题;这是关于这些模型在机密战争的高风险环境中将如何表现的问题。

另请阅读:OpenAI 从亚马逊、NVIDIA 和软银筹集创纪录的 1,100 亿美元以推动 AI

随着问答环节结束,Altman 在 OpenAI 用户记忆中的形象不再是一个满怀憧憬的科技梦想家,而是在硬实力世界中导航的数字外交官。 

他留下的严肃结论是:中立 AI 开发的时代已经结束。OpenAI 决定与战争部整合标志着新篇章的开始,AGI 被视为国家的战略资产,而非全球公共产品。

文章 Sam Altman 关于 OpenAI 与战争部争议协议的问答摘要 首次出现在 Technext。