Ponad połowa firm doświadczyła incydentów bezpieczeństwa z agentami AI – alarmujący raport VentureBeat

Agenci sztucznej inteligencji coraz częściej uzyskują realny dostęp do systemów i danych w przedsiębiorstwach, jednak mechanizmy kontrolne mające zapewnić ich bezpieczeństwo pozostają w tyle. Badanie VentureBeat Pulse Research, przeprowadzone wśród 107 firm, ujawnia alarmującą lukę w bezpieczeństwie agentów AI. Ponad połowa ankietowanych przedsiębiorstw (54%) doświadczyła już potwierdzonego incydentu bezpieczeństwa lub sytuacji bliskiej incydentowi. Zaledwie około jedna trzecia firm przypisuje każdemu agentowi własną, ograniczoną tożsamość, a większość agentów nadal współdzieli dane uwierzytelniające. Co więcej, tylko trzy na dziesięć firm izoluje swoich agentów wysokiego ryzyka.

Rosnąca liczba incydentów bezpieczeństwa

Raport wskazuje, że 54% organizacji miało już do czynienia z incydentem bezpieczeństwa agentów AI. W tej grupie 18% stanowiły potwierdzone incydenty, a 36% to sytuacje bliskie incydentowi, które zostały powstrzymane przed wyrządzeniem szkody. Tylko 42% firm nie zgłosiło żadnych problemów, a niewielka reszta albo nie używa agentów w produkcji, albo nie śledzi takich zdarzeń. Fakt, że tak wiele firm zgłasza sytuacje bliskie incydentom, świadczy o tym, że problemy są wykrywane, ale często dopiero w ostatniej chwili.

Ryzyko incydentów rośnie wraz z rozmiarem firmy. W przedsiębiorstwach średniej wielkości (101-1000 pracowników) wskaźnik incydentów lub sytuacji bliskich incydentom wynosi 49%, podczas gdy w większych firmach (powyżej 1000 pracowników) wzrasta do 63%. Co ciekawe, w większych firmach izolowanie agentów wysokiego ryzyka w środowiskach typu sandbox spada z 35% do 20%, a zadowolenie z narzędzi bezpieczeństwa spada z 4,36 do 3,97. Oznacza to, że organizacje używające najwięcej agentów są jednocześnie najbardziej narażone i najmniej kontrolują potencjalne szkody.

Problem współdzielonych tożsamości i brak izolacji

Podstawową słabością, która przyczynia się do incydentów, jest zarządzanie tożsamością agentów. Tylko około jedna trzecia (32%) przedsiębiorstw przypisuje każdemu agentowi własną, zarządzaną tożsamość, co jest warunkiem wstępnym dla zasady najmniejszych uprawnień i czystej atrybucji. Pozostałe firmy zgłaszają, że agenci współdzielą dane uwierzytelniające lub działają na współdzielonych kluczach API oraz danych uwierzytelniających kont ludzkich lub usługowych. W sumie 69% przedsiębiorstw (74 ze 107) ma gdzieś w swojej flocie agentów problem współdzielenia danych uwierzytelniających.

Konsekwencje są bezpośrednie: gdy agenci współdzielą dane uwierzytelniające, skompromitowany agent może działać z znacznie większym zasięgiem niż zamierzono, a analiza po incydencie nie pozwala precyzyjnie określić, który agent co zrobił. Problem tożsamości nieludzkiej – czyli przypisanie każdemu agentowi własnej, zarządzanej tożsamości – jest największym niedokończonym elementem bezpieczeństwa agentów AI w przedsiębiorstwach.

Co więcej, postawa firmy w zakresie zarządzania danymi uwierzytelniającymi agentów koreluje z liczbą incydentów. Organizacje, w których agenci współdzielą dane uwierzytelniające, doświadczyły incydentów lub sytuacji bliskich incydentom w 63,5% przypadków, podczas gdy w grupach, gdzie każdy agent ma własną tożsamość, wskaźnik ten wynosił 40,9%.

Kolejnym problemem jest brak izolacji. Chociaż około połowa przedsiębiorstw monitoruje aktywność agentów (47%) lub egzekwuje ograniczone uprawnienia w czasie rzeczywistym (49%), tylko 30% izoluje swoich agentów wysokiego ryzyka w środowiskach typu sandbox. Izolacja jest kluczowa dla ograniczenia szkód, gdy inne mechanizmy kontrolne zawiodą, a jest to najrzadziej stosowana kontrola. W połączeniu z luką w zarządzaniu tożsamością, tworzy to obraz agentów, którzy są monitorowani i mają nadane uprawnienia, ale rzadko są ograniczani, co sprzyja rozprzestrzenianiu się pojedynczej awarii.

Dominacja narzędzi dostawców i wysoka satysfakcja pomimo ryzyka

Przedsiębiorstwa w dużej mierze polegają na narzędziach bezpieczeństwa dostarczanych przez twórców modeli i dostawców chmury. Zapory OpenAI są liderem z 51% udziałem, a za nimi plasują się rozwiązania chmurowe Google i Microsoft oraz mechanizmy zarządzania agentami Anthropic. Aż 82% firm wskazuje jedno z tych natywnych rozwiązań jako swoją główną warstwę bezpieczeństwa. Specjalistyczne narzędzia do bezpieczeństwa agentów AI, takie jak Prisma AIRS firmy Palo Alto czy Cisco AI Defense, ledwo rejestrują się w badaniu, uzyskując niskie jednocyfrowe wyniki.

Co zaskakujące, pomimo rosnącej liczby incydentów i niedociągnięć w zarządzaniu tożsamością, satysfakcja z obecnych narzędzi bezpieczeństwa agentów jest wysoka, wynosząc średnio 4,2 na 5. To poczucie komfortu wydaje się wynikać z wygody i niskiego tarcia związanego z natywnymi kontrolami dostawców, a nie z udowodnionej skuteczności w ograniczaniu zagrożeń. Jest to jednak fałszywe poczucie bezpieczeństwa, ponieważ większość tych samych przedsiębiorstw planuje zmienić swoje narzędzia w ciągu roku.

Wyniki badania VentureBeat Pulse Research jasno wskazują na pilną potrzebę zrewidowania strategii bezpieczeństwa agentów AI w przedsiębiorstwach. Chociaż firmy są zadowolone z obecnych rozwiązań, rzeczywistość rosnącej liczby incydentów i fundamentalne luki w zarządzaniu tożsamością i izolacją agentów sugerują, że obecne podejście jest niewystarczające. W miarę jak agenci AI stają się coraz bardziej autonomiczni i zintegrowani z kluczowymi systemami, ignorowanie tych luk może prowadzić do poważnych konsekwencji finansowych i reputacyjnych. Firmy muszą aktywnie inwestować w dedykowane rozwiązania bezpieczeństwa i przyjąć bardziej rygorystyczne podejście do zarządzania tożsamością i izolacji, aby skutecznie chronić swoje zasoby przed rosnącymi zagrożeniami.

Źródło: venturebeat.com