Dozowanie pamięci dla agentów AI: Klucz do optymalnej wydajności i kosztów

W najnowszym badaniu, opublikowanym 18 sierpnia 2026 roku, Vatche Isahagian, Gaodan Fang, Jayaram Radhakrishnan, Punleuk Oum, Ashwath Vaithinathan Aravindan, Evelyn Duesterwald, G Thomas, Vinod Muthusamy, Merve Unuvar i Ayhan Sebin z IBM Research we współpracy z Hugging Face przedstawili kluczowe wnioski dotyczące zarządzania pamięcią agentów sztucznej inteligencji. Okazuje się, że wyposażenie agenta w pamięć agentową, czyli destylowanie lekcji z jego przeszłych działań i ponowne wprowadzanie ich do kontekstu, nie zawsze przekłada się na lepszą wydajność. Badacze podkreślają, że pamięć agentowa nie jest funkcją, którą się włącza, lecz dawką, którą należy kalibrować do konkretnego modelu.

Pamięć agentowa: Kalibracja zamiast kumulacji

Badanie, które objęło osiem modeli – od gęstego modelu 30B po zaawansowane systemy własnościowe – wykazało, że odpowiednia dawka pamięci różni się w zależności od poziomu modelu. Silne modele, posiadające „przestrzeń do rozwoju” (headroom), najlepiej wykorzystują pełny zestaw wytycznych, zawierający nawet rzadkie przypadki brzegowe. Z kolei słabsze modele osiągają najlepsze wyniki, gdy otrzymują kompaktowy rdzeń wytycznych uzupełniony o wytyczne pobierane dla konkretnych zadań. Modele, które osiągnęły już swoje maksimum wydajności (nasycone), nie wykazują mierzalnych korzyści z dodatkowej pamięci.

Na przykład, model DeepSeek-V3.2 (671B MoE) zwiększył wskaźnik ukończenia zadań o 9,5 punktu procentowego dzięki pełnemu zestawowi samodzielnie wydobytych wytycznych. Natomiast gpt-oss-120b (117B MoE), model o mniejszej mocy, zyskał 16,1 punktu procentowego przy zastosowaniu selektywnego podejścia (kompaktowy rdzeń plus wytyczne dla zadań), podczas gdy pełny zestaw wytycznych przyniósł mniejsze korzyści i kosztował około 50% więcej tokenów. Model GLM-5 (745B MoE) nie odnotował mierzalnych zysków, co wskazuje na jego nasycenie.

Czynniki wpływające na to, do której kategorii należy model, są złożone i nie ograniczają się jedynie do liczby parametrów. Obejmują one również przestrzeń do rozwoju na benchmarkach, rozmiar okna kontekstowego, architekturę, jakość wytycznych oraz rozkład zadań.

Jak działa pamięć agentowa w ALTK-Evolve?

System ALTK-Evolve umożliwia agentowi uczenie się na podstawie własnych wcześniejszych trajektorii. Proces ten polega na destylowaniu wytycznych wielokrotnego użytku i wstrzykiwaniu ich z powrotem w czasie wnioskowania, bez aktualizacji wag modelu i bez ludzkiej adnotacji. Cykl uczenia się jest prosty:

• Agent podejmuje się zadań i generuje trajektorie.
• ALTK-Evolve wydobywa wytyczne behawioralne zarówno z udanych, jak i nieudanych przebiegów.
• Konsoliduje te wytyczne w zestaw wielokrotnego użytku.
• W czasie wnioskowania agent otrzymuje albo pełny zestaw wytycznych, albo ich selektywny wybór, odpowiedni dla danego zadania.

Ważne jest, że ten proces nie aktualizuje wag modelu. Pętla uczenia się zmienia jedynie wskazówki dostępne dla agenta, a nie sam model bazowy. Dzięki temu rozwiązanie jest tanie w implementacji i przenośne między różnymi modelami.

Wyniki i optymalizacja kosztów

Badanie przeprowadzono na platformie AppWorld, obejmującej 585 wieloetapowych zadań w dziewięciu symulowanych aplikacjach (kalendarze, komunikatory, płatności itp.). Zadania oceniano za pomocą dwóch metryk:

• TGC (Task Goal Completion): odsetek zadań ukończonych w pełni i poprawnie.
• SGC (Scenario Goal Completion): bardziej rygorystyczna metryka, która wymaga pomyślnego ukończenia wszystkich wariantów danego scenariusza, mierząca niezawodność.

Okazało się, że kuracyjne pobieranie wytycznych (curated retrieval) może być zarówno najdokładniejszą, jak i najtańszą opcją. Dla modelu gpt-oss-120b podejście to przyniosło +16,1 punktu procentowego wzrostu ukończenia zadań przy zaledwie +5% tokenów. To pokazuje, że lepsza wydajność nie zawsze wymaga większych kosztów wnioskowania.

Kluczowym elementem efektywności w produkcji jest buforowanie podpowiedzi (prompt caching). Statyczna część zestawu wytycznych, identyczna w kolejnych krokach, może być buforowana, co znacznie obniża efektywne koszty. Projektowanie podpowiedzi z uwzględnieniem buforowania – utrzymywanie stabilnego prefiksu wspólnego zestawu wytycznych – jest warte inżynieryjnego wysiłku. Badacze przypuszczają również, że rozmiar okna kontekstowego odgrywa rolę: modele z większymi oknami mogą efektywniej absorbować pełny zestaw wytycznych, podczas gdy modele z mniejszym kontekstem bardziej korzystają z pobierania, które utrzymuje wstrzykiwaną treść w kompaktowej formie.

Wnioski i dalsze kroki

Podstawową lekcją płynącą z badania jest to, że agentowi należy dostarczyć taką ilość doświadczenia, jaką jest w stanie faktycznie wykorzystać, a nie po prostu kumulować całą zdobytą wiedzę. Dla słabych modeli oznacza to kompaktowy rdzeń plus kilka lekcji specyficznych dla zadań, co jest również najtańszą opcją. Dla silnych modeli z przestrzenią do rozwoju, oznacza to zachowanie pełnego zestawu wytycznych, którego koszty można kontrolować poprzez buforowanie podpowiedzi. W przypadku modeli nasyconych, nie ma sensu wydawać dodatkowego kontekstu, dopóki ich pozostałe tryby awarii nie zostaną lepiej zrozumiane.

Zyski są realne i widoczne w całym spektrum modeli – są automatyczne, wolne od wycieków danych i nie wymagają ludzkiej adnotacji, ale tylko wtedy, gdy dawka pamięci jest dopasowana do modelu. Dalsze prace obejmują rozwój uczącego się selektora wytycznych, badanie pamięci dla bardzo słabych modeli (uczenie od nauczyciela), rozszerzenie walidacji poza AppWorld oraz izolowanie wpływu rozmiaru okna kontekstowego. Możliwe jest również wypróbowanie biblioteki ALTK-Evolve, która zawiera potok ekstrakcji, konsolidacji i pobierania użyty w badaniu.

Badanie to podkreśla rosnące znaczenie precyzyjnego inżynieringu systemów AI, gdzie subtelne niuanse w zarządzaniu zasobami, takimi jak pamięć, mogą mieć znaczący wpływ na wydajność i efektywność kosztową. W miarę rozwoju coraz bardziej złożonych agentów, zdolność do inteligentnego dostosowywania ich „doświadczenia” będzie kluczowa dla osiągnięcia optymalnych rezultatów w praktycznych zastosowaniach.

Źródło: huggingface.co