OpenAI 详述与美国国防部协议中的多层保护措施

OpenAI于2月28日星期六表示,其前一天与五角大楼达成的在美国国防部机密网络上部署技术的协议包含了额外的保障措施,以保护其使用案例。

美国总统唐纳德·特朗普于星期五指示政府停止与Anthropic合作,五角大楼表示将宣布该初创公司为供应链风险,这对这家人工智能实验室造成重大打击,此前双方在技术护栏问题上发生对峙。Anthropic表示将在法庭上挑战任何风险指定。

不久后,由微软、亚马逊、软银等支持的竞争对手OpenAI于星期五晚间宣布了自己的协议。

"我们认为我们的协议比以往任何机密AI部署协议都有更多护栏,包括Anthropic的协议,"OpenAI于星期六表示。

这家AI公司表示,与国防部(特朗普政府已将其更名为战争部)的合同强制执行三条红线:OpenAI技术不能用于大规模国内监控、指挥自主武器系统或任何高风险自动化决策。

"在我们的协议中,我们通过更广泛、多层次的方法保护我们的红线。我们保留对安全堆栈的完全自主权,我们通过云端部署,经过审查的OpenAI人员参与其中,并且我们有强有力的合同保护,"OpenAI表示。

五角大楼在过去一年与主要AI实验室签署了价值高达2亿美元的协议,包括Anthropic、OpenAI和谷歌。五角大楼寻求在国防方面保留所有灵活性,不受技术创造者关于不要用不可靠的AI为武器提供动力的警告所限制。

OpenAI警告说,美国政府对其合同的任何违反都可能引发终止,尽管它补充说,"我们不期望会发生这种情况。"

该公司还表示,竞争对手Anthropic不应被标记为"供应链风险",并指出,"我们已向政府明确表达了我们在这方面的立场。" – Rappler.com