Google opracowuje chip „Frozen v2” z architekturą Gemini w krzemie, obiecującą ogromną wydajność

Google rozwija wewnętrznie nowy chip serwerowy o nazwie kodowej „Frozen v2”, który ma bezpośrednio zintegrowaną architekturę modelu sztucznej inteligencji Gemini. Według źródeł cytowanych przez The Information, rozwiązanie to może być od 6 do 10 razy bardziej wydajne w obsłudze zapytań AI niż obecne chipy TPU firmy Google.

Architektura Gemini w krzemie

Kluczową innowacją „Frozen v2” jest wbudowanie części struktury modelu Gemini bezpośrednio w sprzęt, w przeciwieństwie do istniejących chipów TPU (Tensor Processing Unit) Google, które są bardziej uniwersalne i współpracują z wieloma modelami. Nazwa „Frozen v2” nawiązuje do koncepcji „zamrażania” parametrów w modelach AI, gdzie wartości są blokowane i przestają się zmieniać. W tym przypadku, część modelu zostaje trwale „zamrożona” w samym chipie, co ma zredukować liczbę kroków obliczeniowych i przyspieszyć odpowiedzi.

Początkowy pomysł na to rozwiązanie pochodził od Jeffa Deana, głównego naukowca Google DeepMind. Jego pierwsza koncepcja „Frozen” zakładała osadzenie wag modelu bezpośrednio w chipie. Wagi to specyficzne ustawienia, które określają, jak model AI reaguje na zapytania. Google zrezygnowało z tego podejścia, ponieważ taki chip działałby tylko z jedną wersją Gemini i szybko stałby się przestarzały.

Frozen v2 przyjmuje bardziej elastyczne podejście, osadzając architekturę modelu, czyli jego podstawowy schemat, zamiast konkretnych wag. Dzięki temu na chip można nadal ładować nowe wagi. Według The Information, nie podjęto jeszcze decyzji, jaka część architektury zostanie faktycznie zakodowana na stałe.

Wdrożenie i strategia Google

Google planuje wdrożyć „Frozen v2” począwszy od 2028 roku. Projekt ten jest postrzegany jako test dla wyspecjalizowanych chipów, z mniejszą skalą produkcji niż linia TPU. Ze względu na to, że chip będzie działał tylko tak długo, jak Google będzie używać tej samej architektury modelu, prawdopodobnie nie stanie się produktem dostępnym dla klientów zewnętrznych.

Obecnie Google wynajmuje swoje układy TPU firmie Meta, oferuje je zewnętrznym klientom chmurowym i promuje poprzez program „TPU@Premises” jako alternatywę dla rozwiązań Nvidii. Wewnętrznym celem Google jest zdobycie dziesięciu procent rocznych przychodów Nvidii w tym segmencie. „Frozen v2” ma natomiast służyć do złagodzenia wewnętrznych ograniczeń Google w zakresie mocy obliczeniowej AI.

Jeśli chip spełni swoje obietnice, może stać się znaczącą przewagą konkurencyjną. W branży AI, optymalizacja kosztów wnioskowania (inference costs) w coraz większym stopniu decyduje o marżach firm. Google mogłoby wykorzystać „Frozen v2” do uruchamiania potężnych modeli po niższych kosztach, co pozwoliłoby mu zdobyć udział w rynku od takich firm jak OpenAI i Anthropic.

Rozwój „Frozen v2” podkreśla strategiczne znaczenie posiadania własnych, zoptymalizowanych układów scalonych dla gigantów technologicznych. W dobie rosnącego zapotrzebowania na moc obliczeniową dla AI, wewnętrzne innowacje w sprzęcie mogą być kluczowe dla utrzymania przewagi konkurencyjnej i efektywnego skalowania usług opartych na sztucznej inteligencji.

Źródło: the-decoder.com