Jeśli AI nie można ufać w klasie, dlaczego miałaby być zaufana na orbicie?
W publicznym komentarzu z 9 września 2026 roku osoba zajmująca stanowisko lidera ds. bezpieczeństwa i zgodności w czołowej firmie zajmującej się AI oceniła, że istnieje prawdopodobieństwo przekraczające 10%, iż sztuczna inteligencja mogłaby zagrażać ludzkości w najbliższej dekadzie. Odpowiedział jej badacz, który niedawno odszedł z tej firmy po pracach nad wstępnym treningiem w tej dziedzinie, stwierdzając w swoim pożegnalnym wątku, że "osoby budujące AI szczerze wierzą, iż mogłaby zabić nas wszystkich do końca dekady". Strona wygłaszająca te tezy nie wycofała swoich słów, dodając jednocześnie, że chodzi o przyszłą superinteligencję, dla której branża nie ma jeszcze gotowego planu dopasowania.
Jako lider ds. bezpieczeństwa w jednej z niewielu firm, które kształtują obecny kierunek rozwoju tej technologii, ostrzeżenie to nie było marginesowe; było jak przyznanie się do środka, które miało wpływ na sposób myślenia o ryzyku w branży.
Rozmowa skupiła się głównie na AI w kontekście abstrakcji: chatboty, agentów i ostateczne nadejście systemów samodoskonalących się. Jednak prawdziwie pilna i nieabstrakcyjna domena to architektura, w której ryzyko ma realny charakter ? zestaw systemów zintegrowanych z satelitarnymi systemami wczesnego ostrzegania, konstelacjami do monitorowania pocisków oraz strukturą dowodzenia i sterowania, które w minutach decydują, czy start jest realny. Obecnie używane systemy AI wykonują tę pracę wąskimi modelami, które nie przypominają samodoskonalącej się superinteligencji, lecz tworzą warstwę o ograniczonym zasięgu, co czyni temat kosmicznej warstwy wartym zbadania, a nie odrzucenia.
To właśnie kosmiczno-nuklearny obszar sprawia, że dyskusja o bezpieczeństwie AI przestaje być jedynie teoretyczna.
Mechanizm ten przechodzi przez architekturę kosmiczną: konstelacje satelitów, przetwarzanie na orbicie i naziemne stacje pośredniczące stanowią fizyczną warstwę decydującą o tym, co państwo posiadające broń wierzy, że dzieje się na świecie. Systemy AI, które obecnie pełnią tę funkcję, to wąskie modele wag, konwolucyjne sieci do klasyfikacji obrazów oraz algorytmy fuzji radarowych i satelitarnych danych ? nie przypominają one samodoskonalającej się superinteligencji. To rozróżnienie sprawia, że warstwa kosmiczna zasługuje na dogłębną analizę, a nie na odrzucenie.
Przez dekady warstwa ta funkcjonowała według prostego schematu "zagiętej rury": satelity rejestrowały surowe dane podczerwieni i radarowe i przekazywały je na Ziemię do interpretacji przez analityków. Ten model ustępuje miejsca nowej architekturze kosmicznej, która nastawia się na edge AI na pokładzie satelitów ? osadzone modele widzenia komputerowego decydujące o wykryciu dymu rakietowego jeszcze przed tym, jak człowiek zobaczy surowe obrazy. Również rosnące konstelacje tysiąca mniejszych satelitów na niskiej orbicie powodują, że żaden zespół ludzi nie może bezpośrednio przetwarzać strumieni danych. Platformy fuzji danych łączą teraz dane radarowe, obrazy i sygnały wywiadowcze w jeden ślad w czasie rzeczywistym. Nawet wąski, dobrze przetestowany model skraca czas potrzebny na ludzką ocenę, ponieważ uzasadnienie dla automatyzacji tej warstwy opiera się na szybszych ruchach zagrożeń orbitalnych i hipersonicznych niż ludzkie możliwości reakcji.
I chociaż dzisiejsze systemy nie stanowią frontowych modeli niezgodnych z celem, istnieje ryzyko strukturalne: ta sama architektura edge i fuzja danych, która jest obecnie budowana, może stać się fundamentem dla przyszłego samodoskonalącego się systemu, jeśli kiedykolwiek uzyska dostęp do sieci wojskowej. Fałszywy sygnał w tym kontekście nie jest halucynacją chatbota; to satelitarne błędne odczytanie świetlnego wyładowania słonecznego lub błysku od odłamków, które zostaje przekazane dalej w łańcuchu dowodzenia i może mieć tylko minuty na decyzję o zaufaniu temu odczytowi.
Znaczący, choć wciąż raczej hipotetyczny przykład pojawił się kilka dni po wymianie. 2 września burmistrz Nowego Jorku ogłosił roczny moratorium na generatywną AI w szkołach publicznych aż do ósmej klasy, co obejmuje około 600 000 uczniów i ogranicza możliwości AI w wielu dotychczasowych programach klasowych. Uzasadnienie nie brzmiało, że technologia nie działa, lecz że miasto nie było jeszcze pewne, czy znajduje się w otoczeniu, w którym koszt błędu i wpływ na rozwój dziecka są zbyt wysokie, by ryzykować rozwijanie tej technologii.
"Dzieci potrzebują nauczycieli i ludzkiego kontaktu, aby uczyć się i rozwijać" ? powiedział Mamdani. "Mamy obowiązek postępować tak samo w kontekście roli AI w ich rozwoju."
Warto rozważyć asymetrię, którą to wywołuje. Nowy Jork dysponuje scentralizowaną, egzekwowalną władzą nad oprogramowaniem uruchomionym na miejskich urządzeniach szkolnych i wykorzystał ją do wstrzymania AI w środowisku, gdzie skutki błędu są rozwojowe. Państwa z bronią jądrową integrują podobne systemy AI w infrastrukturze wczesnego ostrzegania i dowodzenia, gdzie skutki błędów mają charakter egzystencjalny i nie istnieje żaden centralny organ, który mógłby narzucić podobne ograniczenia. Jeśli sama możliwość erozji krytycznego myślenia przez AI była wystarczającym powodem, by Nowy Jork wprowadził ograniczenia, to znacznie poważniejsza perspektywa błędnych odczytów danych satelitarnych prowadzących do błyskawicznych decyzji nuklearnych zasługuje na podobny ostrożnościowy odruch w odpowiednich obszarach, gdzie błąd ma poważne konsekwencje.
Najwyraźniej, porównanie to nie ma być dosłowną paralelą między szkolnym zakazem a międzynarodowym porządkiem nuklearnym. Pokazuje raczej lukę między ostrożnościowym standardem zastosowanym w jednym mieście a standardem międzynarodowym, jeśli chodzi o ryzyko egzystencjalne. Systemy w sferze nuklearnej wciąż integrują AI w najbardziej wrażliwych obszarach, podczas gdy ci sami twórcy technologii jawnie przyznają, że nie da się wykluczyć dwucyfrowego prawdopodobieństwa katastrofy cywilizacyjnej. Kluczowe pytanie polityczne nie dotyczy całkowitego wyłączenia AI z dowodzenia bronią jądrową, lecz tego, czy społeczność międzynarodowa potrafi przejść od opisów zagrożeń i granic zastosowań do wiarygodnych mechanizmów weryfikacyjnych, które realnie ograniczą ryzyko przed wystąpieniem fałszywego alarmu.
Taka sytuacja praktycznie odsuwa kwestie na bok, a priorytetem pozostaje pytanie, czy świat potrafi przejść od deklaracji do rzeczywistych mechanizmów weryfikacyjnych, które ograniczą ryzyko zanim alarmy spowodują nieodwracalne decyzje.
Dziękujemy, że przeczytałaś/eś artykuł!
