Agenty AI zużywają 600 razy więcej energii niż proste zapytanie na czacie

Firmy takie jak Google i OpenAI dotychczas uspokajały użytkowników, przedstawiając niskie dane dotyczące zużycia energii przez sztuczną inteligencję. Google podawało, że pojedyncze zapytanie tekstowe do Gemini zużywa zaledwie 0,24 watogodziny (Wh), co jest wartością mniejszą niż dziewięć sekund oglądania telewizji. Z kolei dyrektor generalny OpenAI, Sam Altman, szacował średnie zapytanie do ChatGPT na 0,34 Wh, co porównywalne było z wyszukiwaniem w Google z 2009 roku. Dane te, opublikowane w zeszłym roku, nie uwzględniały jednak złożoności rzeczywistego użytkowania AI, takich jak modele rozumowania, przetwarzanie multimodalne czy systemy wieloagentowe. Naukowiec klimatyczny Zeke Hausfather przeprowadził szczegółową analizę, która rzuca nowe światło na ten problem, wskazując na znacznie wyższe zużycie energii.

Różnica między prostym promptem a agentem AI

Zeke Hausfather, w swojej analizie opublikowanej na The Climate Brink, obliczył, jak duża jest rzeczywista luka w szacunkach zużycia energii. Podkreśla, że nikt poza laboratoriami AI nie zna dokładnego kosztu energetycznego na token dla najnowocześniejszych modeli, a jego własne liczby są rozsądnymi, choć wciąż szacunkowymi, danymi. Hausfather śledził własne użycie Claude Code przez osiem tygodni, a jego 1138 wpisanych promptów wywołało ponad 14 000 wywołań modelu, co daje średnio dwanaście wywołań na prompt. Każde zapytanie przetwarzało średnio 2,9 miliona tokenów. Dla porównania, typowa konwersacja na czacie bez rozumowania czy wyszukiwania internetowego generuje około tysiąca tokenów.

Łącznie jego Claude Code przetworzył 3,2 miliarda tokenów. Z tego 96 procent stanowiły odczyty z pamięci podręcznej, ponieważ na każdym z 14 000 kroków agent ponownie odczytywał cały zgromadzony kontekst. Tekst, który Hausfather faktycznie widział na ekranie, czyli wynik działania modelu, stanowił zaledwie 0,4 procenta wszystkich przetworzonych tokenów. Jego najlepsze oszacowanie całkowitego zużycia energii wyniosło około 170 kWh energii elektrycznej centrum danych w ciągu ośmiu tygodni, z zakresem niepewności od 70 do 330 kWh. Przekłada się to na około 150 Wh na prompt, czyli około 600 razy więcej niż średnie zapytanie na czacie. Hausfather trafnie zauważa, że „prompt” nie jest jednostką użycia AI, podobnie jak „podróże” nie są miarą jazdy; liczy się to, jak daleko się zajedzie.

Skala zużycia energii i emisji CO₂

Średnia sesja Claude Code Hausfathera zużywała około 0,6 kWh, co jest pięćdziesiąt razy większą ilością energii niż potrzebna do naładowania telefonu. Jego średnie dzienne zużycie Claude Code wynosiło 3,0 kWh (zakres: 1,2 do 5,9 kWh), co przewyższa dzienne zużycie dwóch lodówek. W najbardziej intensywnym dniu, kiedy kilka równoległych agentów przetwarzało obszerną analizę geodanych, zużycie oszacowano na 11 kWh. Jest to ponad jedna trzecia dziennego zużycia energii przeciętnego amerykańskiego gospodarstwa domowego.

W skali roku, użycie agentów Claude Code przez Hausfathera zużywałoby około 1,1 MWh energii elektrycznej centrum danych (0,4 do 2,2 MWh), co stanowi około jedną dziesiątą rocznego zużycia przeciętnego amerykańskiego gospodarstwa domowego. Biorąc pod uwagę średni amerykański miks energetyczny, przekłada się to na około 370 kg ekwiwalentu CO₂ rocznie. Jest to nieco więcej niż roczne działanie elektrycznej suszarki do ubrań (262 kg) i około połowa emisji z lotu ekonomicznego w obie strony z San Francisco do Nowego Jorku (700 kg), choć Hausfather zaznacza, że ta ostatnia liczba obejmuje tylko bezpośrednie emisje CO₂. Stanowi to około ośmiu procent rocznych emisji z typowego amerykańskiego samochodu z silnikiem spalinowym i około dwóch procent rocznego śladu węglowego przeciętnego Amerykanina. Hausfather podsumowuje, że jest to jednocześnie znaczące źródło emisji i stosunkowo skromna część jego całkowitego śladu węglowego.

Potencjał dla czystej energii

Hausfather nie nawołuje do poświęceń, ale sugeruje, że kierowanie prostych zadań do mniejszych modeli ma sens, ponieważ zużywają one od pięciu do siedmiu razy mniej energii na token niż modele graniczne. Największym czynnikiem wpływającym na redukcję emisji jest jednak intensywność węglowa samej energii elektrycznej. Gdyby ta sama praca była wykonywana przy użyciu w dużej mierze czystej energii, ślad węglowy spadłby o około 90 procent. Problem polega na tym, że prawie trzy czwarte planowanej generacji energii na miejscu dla amerykańskich centrów danych opiera się na gazie ziemnym.

To właśnie w tym obszarze Hausfather dostrzega szansę. Firmy AI dysponują ogromnym kapitałem i niezwykłą pilnością. Jeśli te środki zostaną skierowane na czystą energię, rozbudowę sieci energetycznej oraz zaawansowane technologie, takie jak energia geotermalna czy jądrowa, boom AI może sprawić, że sieć energetyczna stanie się czystsza niż była wcześniej. To pokazuje, że rozwój sztucznej inteligencji, choć energochłonny, może paradoksalnie stać się katalizatorem dla transformacji energetycznej, pod warunkiem strategicznych inwestycji w zrównoważone źródła energii.

Źródło: the-decoder.com