Grupy terrorystyczne wykorzystują chatboty AI do planowania ataków i rozwoju broni

Grupy terrorystyczne, takie jak Boko Haram i ISIS, aktywnie wykorzystują zaawansowane chatboty sztucznej inteligencji do planowania ataków, rozwoju broni i obchodzenia zabezpieczeń. Według nowego badania, obie frakcje Boko Haram utworzyły dedykowane jednostki AI, a ich dowódcy byli szkoleni przez ISIS w zakresie inżynierii promptów i omijania filtrów bezpieczeństwa AI.

AI w służbie terroryzmu

Badanie przeprowadzone przez Antonię Jülich z Cambridge Programme on AI Science & Policy (CASP) ujawnia, że Boko Haram używa popularnych chatbotów AI, takich jak ChatGPT, Claude, Gemini, Grok, Meta AI i DeepSeek. Jülich przeprowadziła 57 wywiadów z 27 byłymi członkami grupy, co pozwoliło na głębokie zrozumienie ich działań. Z ustaleń wynika, że AI jest wykorzystywana do:

• Planowania ataków
• Konstruowania potężniejszych ładunków wybuchowych
• Konserwacji broni
• Zapewnienia bezpieczeństwa operacyjnego

ISIS aktywnie szkoliło dowódców Boko Haram w Nigerii, pokazując im, jak omijać filtry bezpieczeństwa AI. Jülich opisuje, że członkowie grupy „zgromadzili najlepszych ludzi w jednym pomieszczeniu i używali projektora, aby pokazać, jak to działa na dużym ekranie”.

Niebezpieczne zastosowania i obawy ekspertów

Jednym z najbardziej zaskakujących przykładów wykorzystania AI było użycie jej przez frakcję ISWAP do replikacji technik skoków motocyklowych z filmu, aby bojownicy mogli pokonywać okopy. W wyniku tych szkoleń osiemnastu bojowników zginęło, a tylko ośmiu zdołało wykonać skok. Choć ten przypadek dotyczy akrobacji, Jülich ostrzega, że „choć wykorzystanie AI przez Boko Haram pozostaje konwencjonalne, powinno to być ostrzeżeniem, aby poważnie potraktować ryzyko dążenia terrorystów do uzyskania pomocy AI w zakresie broni chemicznej i biologicznej”. Były członkowie grupy wyrażali „silny entuzjazm dla AI” i wspominali, że grupa rozważała wcześniej broń masowego rażenia.

Naukowcy i laboratoria AI, takie jak OpenAI i Anthropic, od dawna ostrzegają, że modele AI mogą ułatwiać dostęp do niebezpiecznej wiedzy. Jednak dobrowolna samoregulacja okazała się niewystarczająca, ponieważ badanie wykazało, że filtry bezpieczeństwa nie zapobiegają skutecznie nadużyciom. Anthropic przyznało niedawno, że całkowite wyeliminowanie „jailbreaków” (technik omijania zabezpieczeń) prawdopodobnie nigdy nie będzie możliwe, co wskazuje na inherentną naturę dużych modeli językowych.

Szerszy kontekst zagrożeń AI

Badacze podkreślają również, że choć chatboty takie jak ChatGPT i Claude przyciągają najwięcej uwagi publicznej, to nie one stanowią największe zagrożenie. Ich główną funkcją jest ułatwianie dostępu do istniejącej wiedzy, a nie generowanie czegoś zupełnie nowego. Znacznie większym zmartwieniem jest potencjalne niewłaściwe wykorzystanie bardziej wyspecjalizowanych systemów AI w naukach przyrodniczych, które mogą prowadzić do rozwoju nowych, niebezpiecznych technologii.

Opisane przypadki użycia AI przez grupy terrorystyczne stanowią poważne ostrzeżenie dla społeczności międzynarodowej i twórców technologii. Podkreślają one pilną potrzebę opracowania bardziej skutecznych mechanizmów kontroli i regulacji, aby zapobiec wykorzystywaniu zaawansowanych technologii do celów destrukcyjnych i zapewnić, że rozwój sztucznej inteligencji będzie służył dobru, a nie zagrożeniu globalnemu bezpieczeństwu.

Źródło: the-decoder.com