OpenAIのロボティクス責任者が辞任、国防契約下でのAI監視について警告

OpenAIの元ロボティクス責任者であるCaitlin Kalinowskiが、約1年間の勤務を経て辞任しました。Kalinowskiは、米軍が同社のAIツールを国内監視や米国兵器の自動標的システムに使用する可能性があることへの懸念を理由に挙げています。

OpenAIのハードウェアおよびロボット工学責任者であるCaitlin Kalinowskiが、2024年11月からの勤務を経て同AI企業を退職しました。Kalinowskiは3月7日に辞任を発表し、2月にOpenAIと米国国防総省の間で締結された取引への懸念を理由に挙げました。 

米軍がAIを国内監視に使用する予定、とKalinowskiが主張

Kalinowskiによると、彼女の辞任は、米国国防総省が司法の監視なしに米国市民の監視を行うためにAIツールと機能を使用する意図があることがきっかけでした。元OpenAI従業員はX上で、AIが国家安全保障において重要な役割を果たすと書いています。 

彼女は、米国国防総省が監視および自律兵器にAIを使用する意図があると説明し、その決定に反対しています。彼女は自身の決定が「人ではなく原則に基づくもの」であり、OpenAIでの在職中にチームが築いたものを誇りに思うと述べました。 

2月、米国防総省は機密システムに自動化モデルを展開することについて、主要なAI企業との協議を強化しました。Cryptopolitanは、国防総省がAnthropicおよびOpenAIとの協議を推進し、機密軍事ネットワークにAIツールを組み込もうとしていると報じました。

国防総省の最高技術責任者(CTO)であるEmil Michaelは、技術リーダーとのホワイトハウス会議で、軍が制限や規制なしに機密および非機密ネットワークの両方でAIモデルを運用することを望んでいると述べました。

米国政府とAnthropicの交渉は行き詰まりました。同社のリーダーたちは、自社の技術が国内監視作戦や自律兵器標的システムに使用されないという確固たる線引きをしています。同社は2月下旬、国防総省のAI保護措置を取り除くという最後通告を拒否しました。

AnthropicのCEOであるDario Amodeiは自身の立場を貫き、同社の技術が軍事作戦に使用されることを許可することを拒否しました。これに対し、トランプは2月下旬にすべての連邦機関にAnthropicの技術の使用を停止するよう指示しました。 

OpenAIがAIの軍事展開に制限を課す

国防総省はOpenAIと取引に達しましたが、その後批判を受けています。Sam Altmanは、この取引はかなり日和見的に見えると述べ、同社がAIツールを軍事作戦でどのように使用するかについて制限を課していることを明らかにしました。

しかし、Kalinowskiの異議申し立てでは、発表が急がれ、必要なガードレールが整っていなかったと主張しています。彼女は、自身の退職はガバナンスへの懸念に基づいており、それは急ぐには重要すぎると付け加えました。

OpenAIは声明でKalinowskiの退職を確認しましたが、同社と国防省とのつながりが国家安全保障におけるAIツールの責任ある使用への道を開くと断言しました。 

2月、OpenAIは、GenAI.milと呼ばれる国防総省の安全なエンタープライズAIプラットフォームにChatGPTのカスタムバージョンを展開すると発表しました。同社は、軍事および国防省との協力は、人々を保護し紛争を回避するAIの重要な役割に由来すると指摘しました。

軍事AI進歩に関する米国政府とAI企業の間の摩擦は、より多くの研究者がAI企業を退職する結果にもつながっています。Anthropicのトップセーフガード研究者の1人は、「世界は危機に瀕している」という声明とともに退職しました。

別のOpenAI研究者も職を辞し、AI技術には開発者が理解または防止できない方法で人間を制御する方法があると述べました。

OpenAIの元研究者であるZoë Hitzigも、2月11日に同社を退職しました。彼女はOpenAIがLLM ChatGPTで広告のテストを開始したと発表した同じ日に辞任しました。彼女は、AI企業がFacebookと同じ過ちを犯していると主張しました。

Hitzigは、ChatGPTが非常に個人的な開示(医療上の恐怖、人間関係の問題、宗教的信念)の相談相手としての独自の役割を持つことが、広告ターゲティングを特にリスクの高いものにするという懸念を表明しました。