Zarządzanie autonomią agentów AI: Kluczowe znaczenie warstwy danych

W obliczu rosnącej autonomii agentów sztucznej inteligencji w przedsiębiorstwach, zdolnych do samodzielnego planowania, podejmowania decyzji i działania w różnych systemach bez ludzkiej aprobaty na każdym kroku, pojawia się fundamentalne pytanie: co powstrzyma agenta przed wykonaniem działania, do którego nie został upoważniony? Odpowiedzialność za działania tych agentów, operujących na modelach i danych firmy, spoczywa na przedsiębiorstwie. Tę odpowiedzialność można spełnić jedynie poprzez egzekwowalne zasady, które funkcjonują w kontekście bieżącej chwili, a nie abstrakcyjne polityki istniejące wyłącznie na papierze.

Wyzwania tradycyjnych mechanizmów kontroli

Instynktownie przedsiębiorstwa dążą do otoczenia agentów AI zabezpieczeniami w postaci instrukcji, polityk i monitoringu nałożonych na model. Chociaż te mechanizmy są ważne, mają one strukturalne ograniczenie. Przykładem może być prosta zasada: „Nigdy nie otwieraj drzwi samochodu”. Dosłowne jej przestrzeganie uniemożliwiłoby agentowi wejście lub wyjście z pojazdu. Jednak w zmienionym kontekście (np. wypadek, pożar, konieczność ewakuacji rannej osoby) pożądana zasada jest odwrotna. Kontekst w danej chwili jest kluczowy, a agenci, choć wykonują inteligentne zadania, nie posiadają własnej zdolności do nadrzędnej oceny swoich działań.

Kontrole na poziomie agenta są tak niezawodne, jak przewidywalne są jego wyniki. Autonomia agenta sprawia, że jego zachowanie jest trudne do przewidzenia. Zarządzanie, które opiera się na przeglądaniu działań przed ich wykonaniem, nie jest w stanie nadążyć za systemem, który działa w milisekundach, jednocześnie w wielu systemach. Dlatego zarządzanie musi stać się wykonywalne i egzekwowane tam, gdzie agenci faktycznie pracują: w operacyjnej warstwie danych, w odpowiednim kontekście i dokładnie w momencie, gdy działanie ma miejsce.

Zarządzanie w warstwie danych

Agenci AI generują wartość poprzez interakcję z danymi – odpytują je, pobierają, transformują i coraz częściej na nich działają. Polityka, która mówi, że agent nie powinien mieć dostępu do określonej klasy danych, ma sens tylko wtedy, gdy system może odmówić tego dostępu w momencie, gdy agent o niego prosi. Podobnie, zasada, że AI musi być audytowalne, jest znacząca tylko wtedy, gdy organizacja może odtworzyć, co agent zrobił, jakich danych dotknął, dla którego użytkownika działał i jaki był rezultat. Kiedy zarządzanie funkcjonuje w warstwie danych, jest ono niezależne od tego, jak agent został zbudowany lub jak się zachowuje, ponieważ kontrola jest właściwością samej bazy danych, a nie obietnicą złożoną przez agenta.

Przedsiębiorstwo nie powinno polegać na tym, że model sam zdecyduje się przestrzegać polityki. Polityka musi być egzekwowana przez system. To jest różnica między nadzieją, że aktor pozostanie w granicach, a stworzeniem granic, których nie może przekroczyć. Kontrole, które to umożliwiają, są już często stosowane w warstwie danych, takie jak:

• Kontrola dostępu oparta na rolach i atrybutach (RBAC i ABAC).
• Bezpieczeństwo na poziomie wierszy i kolumn.
• Klasyfikacja i maskowanie danych.
• Polityka jako kod.
• Kompletne ścieżki audytu.

To, co agenci zmieniają, to nie sam mechanizm, ale to, kogo ten mechanizm musi rozpoznawać. Zarządzanie tożsamością musi traktować agenta jako niezależnego podmiotu z własną tożsamością i zadeklarowanym celem, który jest określany na początku sesji. Gdy cel jest powiązany z tożsamością, silnik polityki może go oceniać w ten sam sposób, w jaki dziś ocenia rolę lub dział. Zapis zdarzeń może wtedy zawierać nie tylko informację o tym, kto działał i czego dotknął, ale także, co zadeklarował, że zamierza zrobić.

Trzy imperatywy skutecznego zarządzania

W praktyce sprowadza się to do dziewięciu kontroli, zgrupowanych w trzech imperatywach:

1. Kontrola dostępu oparta na rolach i atrybutach egzekwowana w czasie zapytania, zarówno dla agentów, jak i użytkowników.
2. Dynamiczne maskowanie kolumn sterowane tą samą ścieżką polityki.
3. Tożsamość agenta jako podmiotu pierwszej klasy, z zadeklarowanym celem powiązanym na początku sesji i zachowaniem informacji o działającym użytkowniku.
4. Klasyfikacja i tagowanie, które napędzają politykę.
5. Logowanie audytu na poziomie sesji, rejestrujące, który agent działał, dla którego użytkownika i w jakim zadeklarowanym celu.
6. Pochodzenie danych w całym potoku, umożliwiające śledzenie wyniku z powrotem do żądania, które go wygenerowało.
7. Spójne egzekwowanie w środowiskach lokalnych, chmurowych oraz suwerennych lub izolowanych.

Priyanka Jain, wiceprezes ds. zarządzania produktami, danymi i zarządzaniem AI w EDB, podkreśla, że „Zadeklarowany cel stanowi różnicę. Staje się atrybutem, który warstwa dostępu już rozumie, ocenianym w tej samej ścieżce polityki co rola i bezpieczeństwo na poziomie wierszy. Mechanizm egzekwowania się nie zmienia. Zmienia się to, że cel agenta jest częścią tego, co jest oceniane, i częścią tego, co zapis potwierdza później.”

Przyspieszenie adopcji AI dzięki zarządzaniu w warstwie danych

Niezależnie od etapu wdrażania AI, egzekwowanie zasad w warstwie danych pozwala na szybsze, a nie wolniejsze postępy. Kontrole te są już obecne w bazach danych. Różnica polega na tym, że agenci muszą teraz przez nie przechodzić. Celem nie jest powstrzymanie agentów przed wykonywaniem użytecznej pracy, lecz zdefiniowanie, jak daleko agent może się posunąć, czego może dotknąć, co może zmienić, co wymaga eskalacji i jak organizacja może odtworzyć zdarzenia, jeśli coś pójdzie nie tak. Tak zarządzani agenci są identyfikowalni, mają określony zakres działania, są monitorowani i audytowalni. Przedsiębiorstwo może ich szybciej wdrażać, ponieważ zespoły ds. bezpieczeństwa, ryzyka i kierownictwa ufają leżącemu u podstaw modelowi operacyjnemu.

Platforma EDB Postgres AI, zbudowana na otwartym źródle Postgres, zapewnia przedsiębiorstwom kontrolę nad tym, gdzie znajdują się ich dane, kto ma do nich dostęp i zgodnie z jaką polityką, bez oddawania zarządzania warstwie, której nie posiadają lub nie mogą kontrolować. Dla branż regulowanych połączenie suwerenności danych i egzekwowania na poziomie źródła nie jest luksusem, lecz warunkiem wstępnym do wdrożenia agentów do produkcji. Systemy agentowe będą stawały się coraz bardziej wydajne i autonomiczne. To jest powód, aby świadomie określić, gdzie znajduje się kontrola, a nie powód do spowalniania. Przedsiębiorstwa, które egzekwują zarządzanie w warstwie danych, mogą agresywnie rozwijać AI, ponieważ to, co chroni ich dane, to coś więcej niż tylko pobożne życzenia. Max Romanenko jest dyrektorem technicznym w EDB.

Źródło: venturebeat.com