Jak zbudować agenta AI w stylu Nanobota w Google Colab z wywoływaniem narzędzi i pamięcią sesji

W artykule przedstawiono szczegółowy przewodnik, jak stworzyć lekkiego, osobistego agenta AI w środowisku Google Colab. Projekt ten czerpie inspirację z architektury Nanobota, jednocześnie zapewniając pełną zrozumiałość i możliwość uruchomienia każdego elementu. Celem jest nie tylko wykorzystanie istniejących frameworków, ale przede wszystkim odtworzenie kluczowych bloków konstrukcyjnych, aby jasno pokazać, jak wiadomości, narzędzia, pamięć i odpowiedzi modelu współpracują w ramach praktycznej pętli agenta.

Architektura i kluczowe komponenty

Proces budowy agenta rozpoczyna się od abstrakcji dostawcy (Provider), która umożliwia agentowi współpracę zarówno z rzeczywistymi modelami kompatybilnymi z OpenAI, jak i z deterministycznym dostawcą mockowym. Następnie przechodzi się przez rejestrację narzędzi, zarządzanie pamięcią sesji, haki cyklu życia (lifecycle hooks), umiejętności (skills) oraz serwer narzędzi w stylu MCP.

Kluczowym elementem jest definicja abstrakcji dostawcy, która standaryzuje sposób interakcji z różnymi modelami językowymi. Każdy dostawca musi zwracać obiekt LLMResponse, który zawiera treść odpowiedzi, listę wywołań narzędzi (ToolCall), powód zakończenia (finish_reason) oraz informacje o zużyciu tokenów (Usage).

Dostawcy modeli

Artykuł wyróżnia dwóch głównych dostawców:

• OpenAICompatibleProvider: Ten dostawca współpracuje z OpenAI oraz wszystkimi bramami kompatybilnymi z OpenAI, takimi jak OpenRouter, DeepSeek, Together, vLLM, LM Studio czy Ollama's /v1. Odzwierciedla to sposób, w jaki Nanobot komunikuje się z większością dostawców. Wymaga on klucza API i nazwy modelu, a opcjonalnie adresu URL bazowego.
• MockProvider: Jest to deterministyczny, oparty na regułach „LLM”, który pozwala na uruchomienie całego samouczka bez klucza API i dostępu do sieci. Jego celem jest imitowanie kluczowych aspektów działania modelu, takich jak decyzja o wywołaniu narzędzia i generowanie odpowiedzi w języku naturalnym po otrzymaniu wyników z narzędzi. Agent nie jest w stanie odróżnić go od prawdziwego modelu OpenAI, co podkreśla znaczenie kontraktu dostawcy.

Narzędzia i ich rejestracja

Istotnym elementem agenta są narzędzia (Tool), które pozwalają mu na interakcję ze światem zewnętrznym. Każde narzędzie ma nazwę, opis, parametry (zgodne ze schematem JSON) oraz funkcję, którą wykonuje. Narzędzia mogą być synchroniczne lub asynchroniczne. Artykuł przedstawia dekorator @tool, który automatycznie generuje schemat JSON dla narzędzia na podstawie podpowiedzi typów i docstringu funkcji. Przykładem jest narzędzie calculator, które potrafi oceniać wyrażenia matematyczne.

ToolRegistry to klasa odpowiedzialna za przechowywanie i zarządzanie zarejestrowanymi narzędziami. Umożliwia dodawanie pojedynczych narzędzi lub funkcji, które są następnie przekształcane w obiekty Tool.

Pamięć sesji i cykl życia

Agent jest wyposażony w pamięć sesji, która pozwala mu na zapamiętywanie kontekstu rozmowy i wcześniejszych interakcji. MockProvider demonstruje to poprzez możliwość zapamiętywania i przypominania faktów, takich jak imię użytkownika czy jego ulubiony język programowania. Cykl życia agenta obejmuje etapy, w których wiadomości są przetwarzane, narzędzia wywoływane, a odpowiedzi generowane, wszystko w ramach spójnej pętli.

Budowa agenta AI w Google Colab, z wykorzystaniem koncepcji Nanobota, stanowi praktyczne podejście do zrozumienia wewnętrznych mechanizmów działania inteligentnych systemów. Pozwala to na głębsze poznanie interakcji między modelem językowym, narzędziami i pamięcią, co jest kluczowe dla rozwoju bardziej zaawansowanych i autonomicznych agentów AI. Możliwość uruchomienia projektu bez klucza API, dzięki dostawcy mockowemu, obniża próg wejścia i ułatwia eksperymentowanie z różnymi scenariuszami działania agenta, co jest nieocenione w procesie edukacji i prototypowania.

Źródło: marktechpost.com