Czy narzędzia AI podważają zaufanie do obrazów geoprzestrzennych?
28 lutego, w dniu rozpoczęcia amerykańskich działań militarnych przeciwko Iranowi, chiński startup zajmujący się AI opublikował na X zdjęcie płonącego statku w irańskiej Bazie Konarak należącej do marynarki wojennej.
Obraz wyglądał niemal identycznie z fotografią WorldView-1 opublikowaną tego samego dnia wcześniej przez Biuro Informacyjne Vantor, ale zdjęcie od MizarVision było kolorowe, podczas gdy WorldView-1 zapisuje obrazy w czerni i bieli.
"Zrobili to przy użyciu programu AI i dodali kolory," skomentował Stephen Wood, starszy dyrektor Biura Prasowego Vantor, dla SpaceNews. "To był pierwszy raz, gdy widziałem, by ktoś wziął nasze zdjęcie i cyfrowo je zmanipulował bez naszej zgody."
Tehran Times, anglojęzyczny codziennik, również opublikował sfałszowany obraz satelitarny sugerujący zniszczenie bazy radarowej USA w Katarze. W rzeczywistości był to obraz z Google Earth, przetworzony przez AI, przedstawiający bazę USA w Bahrajnie, według Central European Media Digital Observatory.
"W ostatnich wydarzeniach związanych z Iranem już widzieliśmy zdjęcia satelitarne tworzone lub modyfikowane przez AI, które krążą jako publiczna manipulacja informacjami," napisał Bo Zhao, profesor geografii na Uniwersytecie Waszyngtońskim, mailem. "Co ważniejsze, ta trajektoria jest niemal nieuchronna i stanie się łatwiejsza z czasem ? zwłaszcza że systemy takie jak ChatGPT potrafią teraz generować bardzo realistyczne obrazy teledetekcyjne. To jakościowa zmiana w porównaniu z wcześniejszymi technikami."
Fałszywe obrazy satelitarne to stosunkowo nowe zjawisko.
"Nie twierdzę, że to nigdy się nie zdarzyło, ale nie stało się to normą w żadnym wypadku," powiedział Frank Backes, prezes Space Information Sharing and Analysis Center i były dyrektor generalny Capella Space.
Przedstawiciele branży geoinformacyjnej twierdzą, że bogactwo dostępnych obrazów satelitarnych ułatwia obalanie fałszywych twierdzeń. Biuro Prasowe Vantor ujawniło, że doniesienia z 29 stycznia o zamachu militantów na lotnisko w Niamey, Niger, zawierały zdjęcie wygenerowane AI, ponieważ satelita GeoEye-1 zarejestrowała obrazy tego samego lotniska w tym samym dniu.
"Mogliśmy przyjrzeć się cechom na ziemi, porównać je z obrazami dostępnymi online i łatwo było dostrzec, że całość została zmieniona," stwierdził Wood. "W rzeczywistości to nawet nie było właściwe lotnisko. Dzięki bogactwu zasobów, komercyjne zdjęcia satelitarne ułatwiają identyfikowanie fałszywych obrazów."
Klienci zwracają się także do Ursa Space Systems, by zestawić wiele źródeł obrazów i danych ? elektrooptycznych, radarowych SAR, systemów identyfikacji automatycznej oraz otwartych źródeł ? aby ustalić "co dzieje się, a co nie dzieje się w danym obszarze," mówi Adam Maher, dyrektor generalny i założyciel Ursa Space Systems. "Dziś, dzięki komercyjnemu dostępowi do danych, można zweryfikować obraz za pomocą innego źródła."
Wiodące firmy dostarczające obrazy satelitarne przykładają ogromne znaczenie do wiarygodności. Aby zdobywać kontrakty rządowe, firmy muszą demonstrować ścisłe kontrole nad łańcuchem dostaw, solidne praktyki cyberbezpieczeństwa oraz staranną weryfikację potencjalnych klientów w kontekście przepisów bezpieczeństwa narodowego i eksportu.
"Gdy uznane firmy, działające na rynku od lat, publikują obraz, istnieje znacznie większe zaufanie, że jest on wiarygodny i niezmieniony," powiedział Wood. "Gdy materiał trafia do sieci od znajomego lub przez grupę medialną, wiarygodność spada, a prawdopodobieństwo wprowadzenia w błąd rośnie wykładniczo."
Dlatego klienci powinni polegać na zaufanych dostawcach ? przekonuje Luke Fischer, współzałożyciel i dyrektor generalny SkyFi. "Chodzi tu nie o wiarę w piksel, lecz o potwierdzanie łańcucha dostaw."
Doświadczeni właściciele i operatorzy satelitów monitorujących Ziemię dostarczają obrazy wraz z obszerna metadanych, które identyfikują czujnik, datę i czas wykonania, dokładną lokalizację ukazaną na zdjęciu oraz łańcuch przechowywania danych ? całość od zlecenia misji do dostarczenia danych.
Kiedy łańcuch przechowywania pozostaje nienaruszony, "wiem, że nikt spoza organizacji nie mógł dotknąć zdjęcia," powiedział Wood.
Aby chronić łańcuch dostaw, klienci nie mogą odsprzedawać zdjęć zakupionych od czołowych dostawców lub przez rynek SkyFi, który obejmuje obrazy i analizy od ponad 50 dostawców.
A choć AI może pomagać państwom w tworzeniu dezinformacji, narzędzia sztucznej inteligencji przyspieszają także wykrywanie artefaktów generowanych przez AI w obrazach i ułatwiają porównywanie obrazów od różnych dostawców.
"Jeśli scenę trzeba powiązać z konkretnym satelitą i momencie, można to teraz potwierdzić na podstawie prawdziwych elementów TLE," powiedział Fischer. "To z pewnością pozytywny efekt AI."
"AI to zarówno problem, jak i rozwiązanie," stwierdził Zhao, autor pracy Deep Fake Geography, opublikowanej w 2020 roku w Cartography and Geographic Information Science. "Wchodzimy w znany technologiczny wyścig zbrojeń: techniki generowania ewoluują, metody wykrywania nadążają, i szybko stają się przestarzałe."
"Przechodzimy od "widzisz, więc wierzysz" do znacznie bardziej niestabilnego stanu, w którym samo widzenie nie gwarantuje wiarygodności. Gdy obraz syntetyczny osiągnie pewien poziom realizmu, metody oparte na artefaktach wizualnych, analizie statystycznej lub częstotliwości prawdopodobnie staną się mniej skuteczne."
"W rzeczywistości państwa mogą zmierzać w kierunku "środowiska informacyjnego po erze prawdy", w którym problem nie polega na tym, czy obraz jest prawdziwy, lecz jak społeczeństwa radzą sobie z niepewnością i wizualnie mediowanymi dowodami," zauważył Zhao.
"Jeśli do tego dojdzie, analiza obrazów, w tym techniczna detekcja artefaktów AI, będzie musiała być powiązana z identyfikacją źródeł danych i, co kluczowe, powszechną edukacją na temat AI," dodał Zhao. "Ostatecznie to nie tylko problem techniczny, to wyzwanie społeczne."
Dziękujemy, że przeczytałaś/eś artykuł! Obserwuj nas w Wiadomościach Google.
