Bariery bezpieczeństwa w modelach AI utrudniają pracę badaczom cyberbezpieczeństwa ofensywnego

Firmy rozwijające sztuczną inteligencję, takie jak Anthropic i OpenAI, od miesięcy wprowadzają specjalne programy weryfikacyjne i rygorystyczne bariery bezpieczeństwa, aby ograniczyć wykorzystanie swoich modeli przez złośliwych hakerów. Okazuje się jednak, że te same ograniczenia zaczynają utrudniać pracę legalnym obrońcom sieci oraz badaczom cyberbezpieczeństwa ofensywnego, których zadaniem jest proaktywne wykrywanie słabych punktów w systemach.

Rządowe restrykcje i programy weryfikacyjne

W czerwcu 2026 roku rząd USA nałożył ograniczenia kontroli eksportu na modele AI Anthropic, Mythos i Fable. Decyzja ta była częściowo spowodowana doniesieniami o możliwości obejścia barier bezpieczeństwa w tych modelach, które miały zapobiegać ich wykorzystaniu do tworzenia i przeprowadzania złośliwych cyberataków. Chociaż ograniczenia dla Fable 5 i Mythos 5 zostały później zniesione (Fable 5 powrócił do ogólnego dostępu 1 lipca, a Mythos 5 jest dostępny tylko dla zweryfikowanych organizacji w USA), incydent ten podkreślił obawy związane z potencjalnym nadużyciem zaawansowanych modeli AI.

Anthropic i OpenAI oferują programy dla badaczy cyberbezpieczeństwa, takie jak OpenAI’s Trusted Access for Cyber i Anthropic’s Cyber Verification Program. Mają one umożliwić zweryfikowanym użytkownikom dostęp do modeli z mniejszymi ograniczeniami. Jednak Mark Dowd, znany badacz bezpieczeństwa, wyraził swoje zaniepokojenie, twierdząc, że „nie czuje się komfortowo z tym, że te przypadkowe duże firmy arbitralnie decydują o tym, co jest bezpieczne w dziedzinie bezpieczeństwa, a co nie”. Dowd, który przez dziesięciolecia sprzedawał tzw. „zero-days” (nieznane wcześniej luki w oprogramowaniu) rządom zachodnim, uważa, że takie podejście do kontroli technologii AI jest problematyczne.

Wpływ barier na pracę badaczy

Chris Anley, główny naukowiec w firmie konsultingowej NCC Group, podkreśla, że prośba do modelu AI o próbę wykorzystania błędu jest kluczowym krokiem w potwierdzeniu, czy dana luka jest rzeczywista i warta naprawy. Jeśli bariery bezpieczeństwa uniemożliwiają modelowi odpowiedź na takie zapytanie, utrudnia to pracę obrońcom. Anley porównuje narzędzie AI do młotka: „Nie można zbudować domu bez młotka. To zdecydowanie narzędzie, ale jest też w sposób nieredukowalny bronią”. W przypadku napotkania takich blokad, badacze często sięgają po modele AI open source, które nie posiadają żadnych barier.

Paolo Stagno, dyrektor ds. technologii w firmie Crowdfense, zgodził się z Dowdem, twierdząc, że firmy AI „traktują klientów jak dzieci, które potrzebują niańki” poprzez swoje programy weryfikacyjne i bariery. Stagno i jego współpracownicy używają modeli AI głównie do inżynierii wstecznej, unikając ich wykorzystania do znajdowania luk czy tworzenia exploitów. Obawiają się bowiem ryzyka wycieku wrażliwych danych lub ich wchłonięcia przez przyszłe cykle szkoleniowe modeli chmurowych. W tym celu preferują lokalnie uruchamiane modele open source.

Giuseppe Cali, badacz bezpieczeństwa, uważa, że bariery nie utrudniają jego pracy, ponieważ nie używa AI do działań ofensywnych. Wykorzystuje ją do wstępnej inżynierii wstecznej, analizy kodu i tworzenia narzędzi pomocniczych, co przyspiesza proces i pozwala mu skupić się na odkrywaniu luk. „Nadal chcę sam odkrywać błędy i tworzyć ich uzbrojenie, i to by się nie zmieniło, gdyby jutro zniesiono wszystkie bariery” – powiedział Cali.

Anonimowy badacz z producenta komponentów do smartfonów zauważył, że narzędzia Anthropic są dla jego firmy mało użyteczne ze względu na zbyt restrykcyjne bariery. „Jeśli model wyczuje, że robimy coś związanego z bezpieczeństwem, po prostu się zatrzymuje i staje się bezużyteczny” – dodał.

Niespójność barier i konsekwencje dla branży

Chris Thompson, dyrektor generalny firmy RemoteThreat i założyciel Offensive AI Con, wskazuje na niespójność i zmienność barier bezpieczeństwa w modelach AI, nawet w ramach programów weryfikacyjnych Anthropic i OpenAI. Według niego, badacze tracą czas na „negocjowanie z modelem” zamiast skupiać się na analizie luk i ich wykorzystaniu. W rezultacie, badacze są zmuszeni do korzystania z chińskich modeli open source, takich jak GLM, które można pobrać i uruchomić lokalnie bez żadnych ograniczeń.

Thompson argumentuje, że takie podejście jest bardziej szkodliwe niż korzystne, ponieważ „odpowiedzialni badacze są odpychani od systemów zarządzanych przez USA na rzecz systemów należących do zagranicznych podmiotów”. Wzywa laboratoria AI do otwarcia swoich programów, zapewnienia odpowiedzialnego dostępu i pociągnięcia do odpowiedzialności tych, którzy nadużywają narzędzi. W przeciwnym razie obrońcy mogą przegrać „wyścig AI”, co w obliczu nadchodzącej „wielkiej fali ataków” o niespotykanej szybkości i skali, może mieć poważne konsekwencje dla bezpieczeństwa cyfrowego.

Obecna polityka gigantów AI, choć motywowana dobrymi intencjami, stwarza paradoks, w którym narzędzia mające chronić, jednocześnie osłabiają zdolności tych, którzy mają bronić. Ograniczanie dostępu do zaawansowanych modeli AI dla legalnych badaczy może prowadzić do opóźnień w wykrywaniu i usuwaniu luk, co w dłuższej perspektywie może zwiększyć ryzyko dla wszystkich użytkowników technologii. Kluczowe wydaje się znalezienie równowagi między bezpieczeństwem a dostępem, aby nie hamować innowacji w dziedzinie cyberbezpieczeństwa ofensywnego, która jest niezbędna do skutecznej obrony przed coraz bardziej zaawansowanymi zagrożeniami cyfrowymi.

Źródło: techcrunch.com