Rosnące ryzyko sabotażu danych pogodowych w erze AI

Codziennie, od dyspozytorów linii lotniczych, przez operatorów sieci energetycznych, po rolników na całym świecie, kluczowe decyzje podejmowane są na podstawie prognoz pogody. Chociaż dla większości ludzi są to informacje, na które zerkają przez chwilę, prognozy te mają ogromny wpływ na strategiczne wybory w wielu branżach, gdzie stawką są realne pieniądze, źródła utrzymania, a nawet ludzkie życie. Ostatnio prognozy pogody zyskały nowe znaczenie w rozwijającej się branży rynków predykcyjnych, gdzie ludzie obstawiają wyniki różnych wydarzeń, w tym warunków atmosferycznych.

Nowe zagrożenia dla dokładności prognoz

Rosnąca pokusa manipulowania danymi pogodowymi w celu uzyskania przewagi na tych rynkach, w połączeniu z przejściem na prognozowanie pogody oparte na danych i sztucznej inteligencji, zaczyna zagrażać dokładności prognoz. Obecnie ryzyko to jest stosunkowo łatwe do zarządzania, jednak eksperci przewidują scenariusze, w których problemy te mogą eskalować do znacznie większych, systemowych wyzwań. Tradycyjne systemy prognozowania, takie jak Weather Research and Forecasting model czy European Centre for Medium-Range Weather Forecast (ECMWF) Integrated Forecasting System, łączą obserwacje z numerycznymi aproksymacjami, aby przewidywać przyszłe wzorce pogodowe. Posiadają one wbudowane zabezpieczenia, takie jak asymilacja danych, która waży każdą nową pomiarową wartość w kontekście modelu fizycznego i odczytów z pobliskich stacji, co pomaga w utrzymaniu niezawodności obserwacji.

Niestety, pojawiają się nowe zagrożenia dla dokładności obserwacji. Na początku tego roku media doniosły o manipulacji stacją pogodową na lotnisku Paryż Charles de Gaulle (CDG), gdzie 6 i 15 kwietnia 2026 roku odnotowano podejrzane skoki temperatury. Władze spekulują, że mogła być użyta ręczna suszarka do włosów lub zapalniczka. Incydent ten doprowadził do znacznych wypłat dla graczy na rynkach predykcyjnych, którzy obstawiali osiągnięcie 22 °C, podczas gdy rzeczywista średnia wynosiła około 18 °C. Jeden z graczy wygrał 20 000 dolarów.

Wyzwania związane z AI i skoordynowanymi atakami

Na szczęście manipulacje pojedynczą stacją, jak w przypadku CDG, zazwyczaj mogą zostać wykryte przez ludzki nadzór lub istniejące metody statystyczne. W tym konkretnym przypadku, członkowie francuskiego stowarzyszenia non-profit zajmującego się klimatem przypadkowo zauważyli anomalie i podnieśli alarm. Jednak co w sytuacji, gdy brakuje ludzkiego monitoringu? Co, jeśli zamiast manipulować jedną stacją, ktoś zdalnie zmienia odczyty na wielu stacjach jednocześnie, sprawiając, że każda zmiana jest na tyle mała, by wydawała się wiarygodna? Istniejące kontrole jakości mają trudności z wykryciem tego rodzaju skoordynowanych manipulacji. Czas również działa na niekorzyść, ponieważ dokładne sprawdzanie danych zajmuje godziny lub dni, a prognozy muszą być publikowane zgodnie z harmonogramem.

Przejście na sztuczną inteligencję w prognozowaniu pogody zwiększa stawkę. Metody te są jeszcze bardziej zależne od dokładnych i wiarygodnych obserwacji pogodowych, będąc tzw. „modelami opartymi na danych”. Naukowcy z ECMWF badają, czy wysokiej jakości prognozy można generować bezpośrednio z surowych obserwacji, pomijając etap asymilacji, który obecnie pełni funkcję filtra jakości. Inni badacze idą jeszcze dalej, łącząc dane geoprzestrzenne z dużymi modelami językowymi i agentową AI w celu wspierania autonomicznego podejmowania decyzji w czasie rzeczywistym podczas ekstremalnych zjawisk pogodowych. Potencjalne korzyści to poprawa dokładności, wydajności i szybkości, jednak usunięcie czynnika ludzkiego wprowadza szereg nowych zagrożeń.

Trzy sposoby na zabezpieczenie danych pogodowych

Ryzyko manipulacji ewoluuje od oszustw indywidualnych po zagrożenia dla bezpieczeństwa narodowego. Na niższym końcu skali ryzyka znajduje się indywidualny spekulant manipulujący stacją pogodową dla osobistych korzyści (przypadek CDG). Kolejny poziom to grupa handlowców koordynująca działania w celu zafałszowania prognoz dotyczących produkcji energii odnawialnej, wpływając na hurtowe ceny energii elektrycznej. Na najwyższym poziomie, aktor państwowy lub sabotażysta mógłby manipulować jedną lub wieloma stacjami, aby uruchomić system wczesnego ostrzegania lub utrzymać go w milczeniu, gdy powinien działać.

Aby wyprzedzić te zagrożenia, eksperci wskazują na trzy kluczowe obszary działań:

1. Monitorowanie stacji: Kontrole jakości danych powinny obejmować bezpieczeństwo stacji, wykrywanie i korygowanie anomalii oraz nadzór ludzki. Stacje pogodowe powinny być stale monitorowane, aby zniechęcać do manipulacji. Metody homogenizacji danych, które oczyszczają zapisy pogodowe, muszą stać się szybsze, z celem wykrywania problemów w czasie rzeczywistym. Nadzór ludzki jest niezbędny do oznaczania wątpliwych danych i wyników modeli, co udowodnił przypadek CDG.
2. Ochrona danych w AI: Mechanizmy obrony danych muszą być umieszczone w całym potoku AI. Narzędzia do wyjaśniania działania AI i odporności na ataki adwersaryjne mogą pomóc w zrozumieniu danych bazowych i wyników modeli AI, identyfikacji problemów związanych z danymi lub modelem, a także zwiększyć odporność na ataki.
3. Ciągła odpowiedzialność w łańcuchu: Dane obserwacyjne przechodzą przez wiele rąk: operatorów stacji, krajowe służby meteorologiczne i centra prognozowania. Żaden z tych podmiotów nie może samodzielnie chronić integralności danych – każdy strzeże swojego ogniwa, a każda anomalia musi być komunikowana w całym łańcuchu, od operatorów stacji po osoby działające na podstawie prognozy.

Incydent na lotnisku CDG powinien być postrzegany jako sygnał ostrzegawczy. W miarę jak rola danych obserwacyjnych w prognozowaniu pogody rośnie, musimy dostosować się do ewoluujących zagrożeń. Oznacza to ochronę naszych danych i modeli poprzez wzmocnienie istniejących struktur nadzoru i odpowiedzialności, a także poprawę koordynacji między kluczowymi partnerami. Zapewnienie integralności danych pogodowych staje się kluczowe dla stabilności wielu sektorów gospodarki i bezpieczeństwa publicznego w coraz bardziej cyfrowym świecie.

Źródło: technologyreview.com