Oriol Vinyals z Google DeepMind: Samodoskonalenie AI nie doprowadzi do eksplozji inteligencji

Oriol Vinyals, który do niedawna pełnił funkcję wiceprezesa ds. badań w Google DeepMind, przewiduje, że rekurencyjne samodoskonalenie systemów sztucznej inteligencji jest nieuniknione, jednak będzie to proces powolny i nie doprowadzi do nagłej eksplozji inteligencji. Aby sprostać największym wyzwaniom hamującym ten rozwój, Vinyals uruchamia własny startup.

Kilka dni po odejściu z Google DeepMind, Oriol Vinyals wystąpił na szczycie Agentic AI Summit 2026, gdzie poruszył temat rekurencyjnego samodoskonalenia (RSI) – obecnie bardzo popularny w badaniach nad AI. Wyjaśnił, dlaczego jego zdaniem nie doprowadzi ono do gwałtownego wzrostu inteligencji. Vinyals, pracując w DeepMind, przyczynił się do rozwoju takich projektów jak AlphaStar, AlphaCode i Gemini.

Bariery w samodoskonaleniu AI

Vinyals argumentuje, że postęp w samodoskonaleniu jest trudny do zmierzenia, a jeszcze trudniejszy do osiągnięcia w praktyce. Choć AI przyspieszy niektóre zadania badawcze i inżynieryjne dziesięciokrotnie lub więcej, nagła, samoprzyspieszająca się eksplozja inteligencji jest według niego mało prawdopodobna.

Pytanie, które Vinyals stawia na początku, brzmi: co dokładnie ma się poprawić? System AI składa się z wielu elementów, a każdy z nich może ulec zmianie. Może to być dostosowanie wag sieci neuronowej, wymiana danych treningowych, modyfikacja metod uczenia, a także dostosowanie instrukcji otrzymywanych przy każdym zapytaniu czy przebudowa zewnętrznych narzędzi, takich jak dostęp do baz danych i wykonywanie kodu. System może również zmieniać metryki używane do śledzenia własnych postępów. Każda z tych zmian wiąże się z innymi wyzwaniami technicznymi i regulacyjnymi.

System AI dążący do samodoskonalenia potrzebuje obiecującego pomysłu, kodu, który go zaimplementuje, eksperymentów, które go przetestują, oraz niezawodnego sposobu oceny, czy zmiana faktycznie pomogła. Vinyals zauważa, że AI już osiąga postępy w dwóch środkowych krokach – implementacji i eksperymentowaniu – ale generowanie pomysłów i ich ocena to obszary, w których systemy AI wciąż zawodzą.

Obecnie laboratoria mierzą samodoskonalenie głównie pośrednio, poprzez benchmarki zdolności, takie jak SWE-Bench Pro czy ML-Bench, dążąc do zajmowania wyższych pozycji w rankingach i mając nadzieję, że samodoskonalenie pojawi się jako efekt uboczny. Testy te są tanie i dobrze zdefiniowane, ale obejmują głównie implementację i eksperymentowanie, czyli etapy, które już działają. Dodatkowo, problemy takie jak przeuczenie (overfitting) i manipulowanie celami (scheming) są realnymi zagrożeniami. Vinyals, bazując na latach doświadczeń w tworzeniu agentów do gier, wie, że systemy wykorzystują cele w nieoczekiwany sposób, pokonując system punktacji zamiast faktycznie grać w grę.

Bardziej znaczące benchmarki testowałyby samodoskonalenie bezpośrednio. Pierwsze takie testy zaczynają się pojawiać: system otrzymuje metrykę i budżet obliczeniowy, a badacze mierzą, jak bardzo się poprawia. Podejście to jest kosztowne, ponieważ każda ocena wymaga od agenta pracy przez wiele godzin nad zadaniami, które są dalekie od ostatecznego celu. Vinyals podaje przykład: agent optymalizuje grę w Tetrisa, podczas gdy prawdziwym celem jest zautomatyzowanie całego laboratorium badawczego i zbudowanie najlepszego modelu na świecie.

Generowanie pomysłów jest równie niedorozwinięte. Dobre badania wymagają instynktu do oceny, które pomysły są w ogóle warte realizacji – Vinyals nazywa to „smakiem badawczym”. W szkoleniu LLM nikt tak naprawdę nie badał, jak tego nauczyć.

Oczekuje, że przyszłe oceny będą mierzyć nie tylko to, ile poprawy system osiągnął, ale także, w jaki sposób to zrobił. W przypadku pomysłów oznacza to te same kryteria, które stosują recenzenci konferencyjni: oryginalność, elegancję, wydajność i to, czy technika przetrwa próbę czasu. Część z tego można ująć w regułach i sprawdzić za pomocą modeli nagród, a następnie trenować z wykorzystaniem uczenia wzmacniającego, ale jest to bardzo trudne i zajmie więcej czasu. Procesy recenzji ludzkich są również kosztowne i nie są szczególnie dobre w wykrywaniu mocnych pomysłów.

Vinyals wskazuje również na twarde ograniczenia fizyczne. Chipy nie mogą obliczać szybciej, niż pozwala na to ich konstrukcja i prędkość światła, więc nawet jeśli AI zaprojektuje lepszy algorytm, nadal jest związane z sprzętem, na którym działa. Wydajność człowieka może być już bliska górnej granicy w niektórych dziedzinach. Jak dobry jest AlphaGo w porównaniu z perfekcyjną grą w Go? „Nikt nie wie” – mówi Vinyals.

Startup Discovery Loop

Vinyals wciela swoją analizę w życie, współtworząc startup Discovery Loop wraz z Jeffem Deanem (CEO), Sanjayem Ghemawaten (Google Senior Fellow) i Quoc Le (współzałożyciel Google Brain). Firma ma na celu zautomatyzowanie pełnego cyklu naukowego – od formułowania hipotez, przez przeprowadzanie eksperymentów, po ocenę wyników, włączając w to dwa etapy, w których AI wciąż ma braki. Trzech z czterech założycieli należy do najczęściej cytowanych badaczy AI, a Ghemawat jest jednym z najczęściej cytowanych w dziedzinie systemów rozproszonych.

Zespół planuje najpierw zautomatyzować badania nad AI, a Discovery Loop będzie jego pierwszym klientem, jak ujął to Dean. Inne dziedziny naukowe mają zostać objęte automatyzacją później. Na stronie internetowej firmy założyciele opisują przyszłość, w której „garstka ludzi będzie mogła prowadzić badania naukowe i zadania inżynieryjne znacznie szybciej i z wyższą jakością niż dzisiejsze ogromne zespoły naukowców i inżynierów”. Vinyals przyznaje, że generowanie pomysłów pozostaje najtrudniejszą częścią, dlatego we wczesnej fazie ludzie i maszyny będą wspólnie rozwijać hipotezy.

Analizy Oriola Vinyalsa i jego zaangażowanie w startup Discovery Loop podkreślają kluczowe wyzwania i kierunki rozwoju w dziedzinie sztucznej inteligencji. Skupienie na automatyzacji procesu badawczego, zwłaszcza w obszarach generowania pomysłów i oceny, może znacząco przyspieszyć postęp w AI, jednocześnie wskazując na realistyczne podejście do tempa i zakresu samodoskonalenia systemów. To podejście sugeruje, że przyszłość AI będzie raczej ewolucyjna niż rewolucyjna, z ludzką inteligencją nadal odgrywającą kluczową rolę w najbardziej kreatywnych i oceniających aspektach badań.

Źródło: the-decoder.com