Podsumowanie AMA Sama Altmana na temat kontrowersyjnego paktu OpenAI z Departamentem Wojny

W późny piątkowy wieczór, gdy napięcia geopolityczne przerodziły się w otwarty konflikt na Bliskim Wschodzie, Sam Altman ogłosił na platformie X umowę, której wielu w społeczności technologicznej od dawna się obawiało, choć niewielu spodziewało się, że zmaterializuje się tak nagle.

OpenAI oficjalnie podpisało porozumienie z Departamentem Wojny USA (DoW) w sprawie wdrożenia swoich najnowocześniejszych modeli w najbardziej wrażliwych, tajnych sieciach wojskowych. 

Ogłoszenie wywołało natychmiastową i chaotyczną burzę. W ciągu kilku minut wątek stał się polem bitwy hashtagów "Anuluj ChatGPT", celnych zapytań ekspertów bezpieczeństwa narodowego i zapalnych oskarżeń o wyprzedaż przyszłości ludzkości.

Dla firmy założonej na zasadzie zapewnienia, że AGI przyniesie korzyści całej ludzkości, zwrot w kierunku głównego wykonawcy obronnego wydawał się tektoniczną zmianą w moralnym krajobrazie branży.

Kontekst tego nagłego zwrotu jest równie dramatyczny jak sama umowa. Zaledwie kilka godzin przed ogłoszeniem Altmana prezydent Donald Trump wydał szeroko zakrojony dekret wykonawczy nakazujący wszystkim agencjom federalnym natychmiastowe zaprzestanie korzystania z technologii Anthropic, głównego rywala OpenAI.

Sekretarz Wojny Pete Hegseth określił Anthropic jako "zagrożenie dla łańcucha dostaw bezpieczeństwa narodowego", oznaczenie zazwyczaj zarezerwowane dla zagranicznych przeciwników takich jak Huawei.

Anthropic podobno odmówił przyznania Pentagonowi bezwarunkowego dostępu do swoich modeli Claude, nalegając na umowne "czerwone linie", które zabraniałyby wykorzystywania technologii do masowej inwigilacji krajowej lub w pełni autonomicznej broni śmiercionośnej.

Sam Altman, CEO OpenAI

OpenAI wkroczyło w próżnię pozostawioną przez odejście rywala. Podczas gdy administracja domagała się, aby modele AI były dostępne "do wszystkich zgodnych z prawem celów", OpenAI przedstawiło swoje wejście nie jako kapitulację, ale jako wyrafinowany kompromis. 

W swoim Ask Me Anything (AMA) Altman utrzymywał, że OpenAI zabezpieczyło te same zabezpieczenia bezpieczeństwa, których szukało Anthropic, ale osiągnęło je dzięki wielowarstwowemu podejściu, a nie ultimatum.

Zgadzając się na pracę w ramach istniejących ram prawnych, powołując się na Czwartą Poprawkę i ustawę Posse Comitatus, OpenAI skutecznie rozładowało impas, który groził pozostawieniem wojska USA bez zaawansowanych możliwości AI podczas aktywnej wojny.

Kluczowe punkty z wątku OpenAI Altmana

Wątek szybko przeszedł od korporacyjnego PR do ostrej debaty na temat etyki wojny AI. Jedno z najbardziej lubianych pytań dotyczyło fundamentalnej zmiany w misji OpenAI: dlaczego przejść od "poprawy ludzkości" do współpracy obronnej?

Odpowiedź Altmana była charakterystycznie pragmatyczna: "Świat jest skomplikowanym, chaotycznym i czasami niebezpiecznym miejscem. Wierzymy, że osoby odpowiedzialne za obronę kraju powinny mieć dostęp do najlepszych dostępnych narzędzi."

Altman szczegółowo opisał zabezpieczenia techniczne zaprojektowane w celu zapobieżenia przekształceniu się AI w autonomicznego egzekutora. 

Obejmują one strategię wdrażania "tylko w chmurze", zapobiegającą osadzaniu modeli bezpośrednio w urządzeniach brzegowych lub sprzęcie broni, oraz wdrożenie "Inżynierów Wdrożeń Terenowych" (FDE) w celu nadzorowania tajnego użycia. 

Jednak wątek pozostał sceptyczny. Krytycy wskazali na notatkę społeczności podkreślającą, że zgodnie z ustawą USA PATRIOT Act "zgodne z prawem użycie" może nadal obejmować rozległe gromadzenie danych.

Zapytany o prawdopodobieństwo spowodowania przez AI globalnej katastrofy, Altman był niezwykle zwięzły, sugerując, że współpraca w zakresie bezpieczeństwa narodowego może faktycznie zmniejszyć ryzyko, utrzymując państwo i deweloperów na tej samej stronie.

Jedna z najbardziej odkrywczych wymian dotyczyła zarządzania. Zapytany, czy rząd federalny mógłby ostatecznie znacjonalizować OpenAI, Altman przyznał: "Oczywiście o tym myślałem, ale nie wydaje się to bardzo prawdopodobne na obecnej trajektorii."

To przyznanie niewiele zrobiło, by uspokoić tych, którzy widzą rebrandingu Departamentu Wojny i umieszczenie Anthropic na czarnej liście jako pierwsze kroki w kierunku AGI prowadzonego przez państwo.

Etyka, precedens i utrata kontroli

Implikacje tej umowy wykraczają daleko poza pojedynczy kontrakt. Akceptując oznaczenie ryzyka łańcucha dostaw swojego konkurenta, OpenAI milcząco zatwierdziło świat, w którym rząd może wybierać zwycięzców i przegranych na podstawie ideologicznego zaangażowania firmy w użyteczność wojskową.

To ustanawia przerażający precedens, jak przyznał nawet Altman, gdzie prywatne firmy mogą czuć się zmuszane do obniżenia swoich etycznych zabezpieczeń, aby uniknąć oznaczenia jako zagrożenie bezpieczeństwa narodowego.

Z punktu widzenia etyki wymóg obecności człowieka w pętli pozostaje najbardziej spornym punktem.

Podczas gdy OpenAI nalega, że ludzie zachowają odpowiedzialność za użycie siły, eksperci obrony w wątku zauważyli, że obecna polityka DoW (dyrektywa 3000.09) jest notorycznie niejasna w kwestii tego, co stanowi znaczącą kontrolę człowieka w szybkich cyfrowych działaniach bojowych. 

Sam Altman

Jeśli AI przetwarza dane celowania szybciej niż człowiek może mrugnąć, czy człowiek jest naprawdę w pętli, czy tylko pieczęcią zatwierdzającą decyzję maszyny?

Ryzyko utraty kontroli nad AGI nie jest już teoretycznym problemem odległej przyszłości; jest to pytanie o to, jak te modele będą się zachowywać w wysokostawkowym środowisku tajnej wojny.

Przeczytaj również: OpenAI pozyskuje rekordowe 110 miliardów dolarów od Amazon, NVIDIA i SoftBank na rozwój AI

Gdy AMA dobiegło końca, obraz Altmana w pamięciach użytkowników OpenAI nie był obrazem marząco patrzącego wizjonera technologicznego, ale cyfrowego dyplomaty poruszającego się w świecie twardej siły. 

Pozostawił wątek z trzeźwiącym wnioskiem: era neutralnego rozwoju AI się skończyła. Decyzja OpenAI o integracji z Departamentem Wojny wyznacza początek nowego rozdziału, w którym AGI jest traktowane jako strategiczny zasób państwa, a nie globalne dobro publiczne.

Post Podsumowanie AMA Sama Altmana na temat kontrowersyjnego paktu OpenAI z Departamentem Wojny po raz pierwszy pojawił się na Technext.