Harnesy AI w programowaniu: kontekst z wyprzedzeniem czy na żądanie? Spór Augment Code i Anthropic

Rozwój sztucznej inteligencji w dziedzinie programowania postępuje w zawrotnym tempie, a innowacje dotyczą nie tylko samych modeli językowych, ale także oprogramowania, które nimi zarządza. Te specjalistyczne narzędzia, nazywane harnesami, stanowią warstwę pośredniczącą między modelem AI a projektem dewelopera, decydując o tym, co model widzi, jakie działania może podjąć i jak wchodzi w interakcję z bazą kodu.

Na rynku istnieje wiele rozwiązań, takich jak Claude Code Anthropic, Codex OpenAI, Antigravity Google, otwarte alternatywy jak OpenCode czy propozycje startupów takich jak Cursor czy Augment Code. Każde z nich oferuje różne funkcje i podejścia do wykorzystania modeli w zautomatyzowanych procesach programistycznych. Kluczową kwestią staje się jednak filozofia projektowania tych harnesów, a w szczególności sposób zarządzania kontekstem.

Dwie filozofie harnesów: Lean vs. Context-Rich

Cat Wu, szefowa produktu Claude Code w Anthropic, podkreśla, że modele AI rozwijają się tak szybko, iż tworzenie zbyt sztywnych lub z góry określonych funkcji wokół nich jest nieefektywne. Zespół Claude Code dąży do utrzymania „odchudzonego harnesu”, który jest elastyczny i pozwala modelom na szybką adaptację. Wu zauważa, że wstępne strukturyzowanie kontekstu wokół bazy kodu nie przynosi mierzalnych korzyści w ich wewnętrznych ewaluacjach. Ich strategia polega na dostarczaniu podstawowych narzędzi i umożliwianiu deweloperom dodawania własnych, jeśli zajdzie taka potrzeba.

Zupełnie inne podejście prezentuje Augment Code. Jak wyjaśnia Vinay Perneti, wiceprezes ds. inżynierii w tej firmie, ich produkt preindeksuje repozytorium za pomocą osadzeń (embeddings), modelu wyszukiwania i wektorowej bazy danych. Dzięki temu system jest w stanie szybko odnaleźć i dostarczyć modelowi AI kontekstowo istotny kod. Perneti opisuje to jako podejście semantyczne, w przeciwieństwie do metod opartych na wyszukiwaniu tekstowym (grep), stosowanych przez niektóre inne narzędzia, w tym Claude Code i Codex.

Jak działa silnik kontekstowy Augment Code?

Perneti wyjaśnia, że silnik kontekstowy Augment Code opiera się na dwóch kluczowych elementach:

• Parze modelu osadzania i wyszukiwania: Te modele współpracują ze sobą, aby zrozumieć semantykę kodu.
• Wektorowej bazie danych i zoptymalizowanym systemie backendowym: Umożliwiają one błyskawiczne wyszukiwanie (w ciągu milisekund) odpowiednich fragmentów kodu.

To podejście ma szczególne zalety w przypadku dużych, prywatnych baz kodu. W przeciwieństwie do publicznych repozytoriów, które często są już „zapamiętane” przez duże modele językowe, prywatne bazy kodu są dla nich nieznane. W takich scenariuszach, semantyczne zrozumienie całego repozytorium przez harnes Augment Code znacząco przyspiesza proces znajdowania rozwiązań i redukuje pętlę iteracji. Perneti podkreśla, że w testach Terminal-Bench, Augment Code osiągnął podobną dokładność co Claude Code przy 33% większej efektywności w zużyciu tokenów, co jest kluczowe dla optymalizacji kosztów.

Inteligencja i kontekst: klucz do efektywności

Perneti zgadza się, że modele AI rozwijają się wykładniczo, ale podkreśla, że sama inteligencja nie wystarczy. Kluczowe jest połączenie jej z odpowiednim kontekstem. W Augment Code wierzą, że to właśnie projektowanie harnesu i sposób dostarczania kontekstu są decydujące dla osiągnięcia wysokiej jakości wyników przy jednoczesnej kontroli kosztów. Wskazuje, że ich firma poświęciła 18 miesięcy na badania modeli wyszukiwania i osadzania, zanim ChatGPT stał się powszechny, co pozwoliło im zbudować zaawansowany silnik kontekstowy.

Odnosząc się do obaw deweloperów dotyczących długu technicznego i kosztów, Perneti zaznacza, że AI nie zastąpi całkowicie ludzi, ale będzie z nimi współpracować. Ludzie nadal są lepsi w ocenie i specyfikacji, podczas gdy agenci AI doskonale radzą sobie z wykonywaniem zadań. Przyznaje, że agenci mogą generować dług techniczny (np. duplikować kod), ale jednocześnie są bardzo skuteczni w jego redukcji, gdy otrzymają odpowiednią specyfikację. W kwestii kosztów, Perneti przewiduje, że w miarę rozwoju modeli open-source, koszty korzystania z AI w programowaniu będą spadać, zwłaszcza dla dobrze zdefiniowanych zadań.

Zarówno Cat Wu z Anthropic, jak i Vinay Perneti z Augment Code zgadzają się, że modele graniczne (frontier models) będą nadal rozwijać się w tempie wykładniczym, co fundamentalnie zmienia sposób tworzenia oprogramowania. Różnica zdań dotyczy praktycznego podejścia do zarządzania kontekstem: czy powinien być on przygotowywany z wyprzedzeniem, czy też dynamicznie odzyskiwany w trakcie pracy.

Źródło: arstechnica.com