Rippling tworzy narzędzie do monitorowania wydatków na AI po tym, jak miliony dolarów zostały 'przepalone' na tokeny

Firma Rippling, dostawca oprogramowania HR, zaprezentowała w tym tygodniu AI Spend Console – produkt, który ma pomóc przedsiębiorstwom w śledzeniu i kontrolowaniu wydatków związanych ze sztuczną inteligencją. Narzędzie to, określane jako „anti-tokenmaxxing”, pozwala mapować, ile poszczególni pracownicy, zespoły i działy wydają na AI oraz oceniać, czy przekłada się to na rzeczywisty wzrost produktywności, czy też generuje „AI slop” (niskiej jakości treści AI).

Narzędzie powstało w odpowiedzi na szokujące odkrycie Rippling, które na początku roku intensywnie inwestowało w AI. Na marcowym spotkaniu zespołu wykonawczego, dyrektor finansowy Adam Swiecicki przedstawił dane, które zszokowały zarząd: firma była na dobrej drodze, by wydać 40% budżetu na wynagrodzenia w dziale R&D na tokeny AI. Oznaczało to, że wydatki na tokeny były równoważne 40% wszystkich wynagrodzeń wypłacanych pracownikom tego działu, co przekładało się na miliony dolarów. Matt MacInnis, dyrektor ds. produktu, wspominał, że byli „niedowierzający”.

Niekontrolowany wzrost wydatków i reakcja Rippling

Wydatki na AI rosły w tempie 80% miesiąc do miesiąca. Gdyby ten trend się utrzymał, w kolejnym roku firma wydałaby na tokeny AI prawie tyle samo – 90% – co na wysoko opłacanych pracowników działu R&D. Zarząd natychmiast podjął „pilny” projekt, aby zrozumieć te wydatki i ocenić, co firma zyskuje w zamian. W reklamie nowego produktu Swiecicki siedzi na stołku, podczas gdy pracownicy wrzucają pliki banknotów do niszczarki, co symbolizuje wcześniejsze marnotrawstwo.

Analiza przeprowadzona przez Rippling ujawniła, że „około 10-15% pracowników generowało około 60% całkowitych wydatków na AI. Jeden inżynier wydawał 50 000 dolarów miesięcznie” – jak podano na blogu firmy. Rippling nie chciało całkowicie zaprzestać używania AI, lecz drastycznie ograniczyć koszty. Firma zaczęła od negocjowania maksymalnych limitów wydatków z dostawcami narzędzi, takimi jak Cursor, OpenAI i Anthropic. Szybko okazało się, że pracownicy domyślnie korzystali z najnowszych i najdroższych modeli „frontier” do wszystkich zadań.

MacInnis zauważył, że dostawcy usług inferencji, tacy jak Anthropic i OpenAI, „nie mają żadnych zachęt, aby pomóc w kontrolowaniu wydatków. Mają wszelkie zachęty, aby były to niekontrolowane wydatki, i dokładnie to robią. Nie zapewniają świetnych informacji o użyciu i nie współpracują ze sobą”.

Optymalizacja modeli i nowe podejście do AI

Problem ten był powszechny na początku 2026 roku. Obecnie, osiem miesięcy później, przedsiębiorstwa wyciągnęły wnioski. Po pierwsze, zrozumiały potrzebę korzystania z wielu modeli od różnych laboratoriów AI, oferujących różne punkty cenowe, w tym otwarte modele „open weight”, być może pochodzenia chińskiego. Parker Conrad, założyciel i dyrektor generalny Rippling, zauważył, że wewnętrzne testy porównawcze wykazały, iż Grok SpaceX był wszechstronnym liderem, ale GLM 5.2 (obecnie ulubiony model chiński do zadań kodowania wśród firm technologicznych, promowany również przez Databricks) był „85% tańszy, a oferował niemal identyczną wydajność” jak modele „frontier”.

Po drugie, firmy zdały sobie sprawę z konieczności posiadania bramy AI (AI gateway), która kieruje zapytania do najlepszego i najbardziej opłacalnego modelu dla danego zadania. Rippling również doszło do tego wniosku i zbudowało własną bramę AI, która jest częścią nowego produktu. MacInnis zaznacza, że firmy korzystające już z innej bramy mogą nadal używać AI Spend Console, ale aby korzystać z funkcji zarządzania wydatkami, musiałyby użyć bramy Rippling.

AI Spend Console generuje pulpity nawigacyjne, które oceniają takie atrybuty jak liczba zapytań dziennie w połączeniu z wynikami pracy (np. linie kodu, żądania pull) i wydatkami. Dzięki temu narzędziu Rippling zredukowało swoje wydatki na tokeny z 40% do około 15% budżetu na wynagrodzenia, nie ograniczając przy tym użycia AI. W miesiącu, w którym CFO wydał ostrzeżenie, firma zużyła szczytowo 605 miliardów tokenów. W lipcu wewnętrzne użycie ponownie osiągnęło 600 miliardów tokenów, jednak „koszt zużycia tokenów w lipcu stanowił 37% kosztu zużycia tokenów w kwietniu” – powiedział MacInnis. „To dlatego, że teraz kierujemy zapytania do bardziej efektywnych modeli” – dodał, żartując, że „nie pozwalamy zespołowi sprzedaży na aktualizowanie gramatyki za pomocą Fable”.

Rola człowieka i przyszłość AI w firmach

Jednak same rozwiązania technologiczne nie wystarczą. Rippling zidentyfikowało osoby efektywnie wykorzystujące AI i mianowało je „kapitanami AI”, których zadaniem jest wspieranie reszty firmy. Mimo to, wykorzystanie AI poza inżynierią jest wciąż w fazie rozwoju, ponieważ inżynierowie oprogramowania byli dotychczas głównymi użytkownikami. Rippling pracuje jednak nad wdrożeniem AI dla zespołów zajmujących się onboardingiem klientów, aby zautomatyzować niektóre zadania związane z danymi mailingowymi i uzgadnianiem danych. Pulpit nawigacyjny będzie wtedy mierzył produktywność w kategoriach liczby onboardowanych klientów.

MacInnis podkreśla, że „musimy być w stanie powiązać zużycie tokenów w funkcjach ogólnych i administracyjnych oraz w funkcjach obsługi klienta z produktywnością. Jeśli nie będziemy w stanie tego zrobić, wszystkie zakłady na to, że te rzeczy będą dostępne dla szerszej bazy pracowników, są przegrane”. Jeśli przykład Rippling jest reprezentatywny, to „tokenmaxxing” mógł pójść w tak skrajnym kierunku, że dostęp pracowników do AI może nie być już tak powszechny jak do Slacka czy poczty e-mail. Jeśli firma nie będzie w stanie zmierzyć produktywności, nie wszyscy pracownicy mogą mieć do niego dostęp.

AI Spend Console jest dostępny dla subskrybentów HR Rippling, choć wiąże się z dodatkowymi kosztami opartymi na zużyciu AI. Może być również zakupiony jako samodzielny produkt i zintegrowany z innym systemem HR. Przypadek Rippling pokazuje, że choć entuzjazm wokół sztucznej inteligencji jest ogromny, to efektywne zarządzanie jej kosztami i mierzenie realnego zwrotu z inwestycji staje się kluczowe dla firm, które chcą czerpać z niej korzyści bez niekontrolowanego marnotrawstwa zasobów. To zjawisko prawdopodobnie będzie miało wpływ na strategie wdrażania AI w wielu przedsiębiorstwach w nadchodzących latach.

Źródło: techcrunch.com