Modele językowe nie wywołają rewolucji naukowych, ale modele świata mogą to zmienić

Modele językowe, mimo imponujących osiągnięć w dziedzinie rozumowania dedukcyjnego i indukcyjnego, nie są w stanie wywołać rewolucji naukowych – taką tezę stawia Tom Zahavy z Google DeepMind w swoim artykule „LLMs can't jump”. Jego zdaniem brakuje im kluczowego mechanizmu poznawczego, niezbędnego do stworzenia czegoś prawdziwie nowego. Zahavy opiera swoje argumenty na cyklu odkryć naukowych, który opisał Albert Einstein, oraz na klasyfikacji rozumowania filozofa Charlesa Sandersa Peirce’a.

Trzy formy rozumowania a ograniczenia AI

Zahavy, czerpiąc z koncepcji Peirce’a, wyróżnia trzy formy rozumowania: dedukcję, indukcję i abdukcję. Dedukcja prowadzi do gwarantowanych wniosków z ustalonych reguł, podobnie jak program komputerowy generujący sprawdzalny wynik. Indukcja polega na dostrzeganiu wzorców w danych i uogólnianiu ich, np. obserwując wiele białych łabędzi, wnioskujemy, że wszystkie łabędzie są białe. Trzecia forma, abdukcja, to kreatywny skok, który polega na wynalezieniu przyczyny wyjaśniającej zaskakujące zjawisko. To właśnie w abdukcji Zahavy dostrzega krytyczne ograniczenie dla modeli językowych.

Rozróżnia on dwa poziomy abdukcji. Zwykła abdukcja polega na wyborze najbardziej prawdopodobnego wyjaśnienia spośród znanych kandydatów, co modele językowe potrafią. Jednak trudniejsza wersja, którą Zahavy nazywa „manipulacyjną abdukcją”, to wymyślenie przyczyny, dla której nie istnieje jeszcze żaden lingwistyczny szablon. To właśnie ta zdolność jest, jego zdaniem, prawdziwym wąskim gardłem w wynalazczości naukowej, a maszyny nie są w stanie jej osiągnąć.

Zahavy przyznaje, że modele językowe doskonale radzą sobie z rozpoznawaniem wzorców statystycznych (indukcja) i szybko opanowują formalne wyprowadzanie wniosków (dedukcja). Systemy takie jak AlphaProof, Gemini i GPT-5 osiągają już wyniki na poziomie złotego medalu w problemach Międzynarodowej Olimpiady Matematycznej. Zahavy uważa nawet, że model językowy mógłby wyprowadzić ogólną teorię względności, gdyby otrzymał założenia Einsteina jako punkt wyjścia. Jednak sformułowanie tych założeń, dokonanie „manipulacyjnego skoku” w celu ich osiągnięcia, pozostaje poza ich zasięgiem.

Dlaczego maszyny nie potrafią dokonać „skoku Einsteina”?

Zahavy ilustruje trudności maszyn na przykładzie teorii Einsteina. Modele AI uczą się, porównując swoje przewidywania z rzeczywistością i korygując się na podstawie błędu. W czasach Einsteina nie było jednak kryzysu danych; fizyka Newtona była potwierdzona z niezwykłą precyzją. Jedyna znana anomalia, niewielkie przesunięcie orbity Merkurego, była przypisywana hipotetycznej planecie „Wulkan”. Zdaniem Zahavy'ego, AI oparta na optymalizacji nie miałaby powodu do obalenia fizyki, lecz raczej, podobnie jak ówcześni astronomowie, wymyśliłaby dodatkową planetę, zamiast przemyśleć na nowo koncepcję przestrzeni i czasu. Dane potwierdzające teorię Einsteina, takie jak pomiar ugięcia światła przez Eddingtona, pojawiły się dopiero lata po sformułowaniu teorii.

Skąd zatem wziął się „manipulacyjny skok”, który doprowadził Einsteina do jego aksjomatów? Zahavy wskazuje na „najszczęśliwszą myśl” Einsteina: swobodnie spadającego obserwatora, który nie odczuwa grawitacji. Ten wgląd pochodził z symulacji ucieleśnionej – Einstein mentalnie przechodził przez fizyczne odczucia, zamiast analizować równania. Wyobraził sobie fizyka w przyspieszającej windzie w przestrzeni i doszedł do wniosku, że przyspieszenie i grawitacja są nierozróżnialne z wnętrza. Podobny przypadek to Archimedes, który odkrył zasadę wyporu nie poprzez obliczenia, lecz poprzez fizyczne odczucie wody podnoszącej się, gdy wszedł do wanny. W obu przypadkach pojawiła się fundamentalna zasada, która nie istniała jeszcze w języku tamtych czasów.

Modele świata jako droga naprzód

Modele językowe, zdaniem Zahavy'ego, pozbawione są właśnie tego sensorycznego ugruntowania. Porównuje je do „chińskiego pokoju” filozofa Johna Searle’a, gdzie osoba manipuluje chińskimi znakami zgodnie z podręcznikiem reguł, nie rozumiejąc ani jednego słowa. Modele językowe w podobny sposób manipulują symbolami fizyki, bez dostępu do fizycznego doświadczenia, które nadaje tym symbolom znaczenie.

Chociaż systemy takie jak Sakana's AI Scientist i DeepMind's AlphaEvolve imponująco automatyzują procesy naukowe, to AI Scientist jedynie rekombinuje istniejące koncepcje, a AlphaEvolve optymalizuje, ale potrzebuje wyraźnego sygnału błędu, który może stopniowo zmniejszać. Einstein nigdy nie miał takiego sygnału. Żaden z tych systemów, argumentuje Zahavy, nie jest w stanie dokonać skoku do całkowicie nowego schematu myślenia.

Jako możliwą drogę naprzód Zahavy wskazuje na fizycznie spójne modele świata. Rozróżnia on tutaj generatory wideo, takie jak Veo, które jedynie przewidują najbardziej prawdopodobną następną klatkę (spadające jabłko spada, bo jest to najczęstsza kontynuacja w danych treningowych, a nie dlatego, że model rozumie grawitację), od modeli świata sterowanych działaniem, takich jak Genie. Te ostatnie pozwalają agentowi aktywnie interweniować w symulacji i przeprowadzać eksperymenty kontrfaktyczne, np. mentalnie przecinając kabel windy. Takie „syntetyczne laboratorium” mogłoby zapewnić pętlę sprzężenia zwrotnego potrzebną do wynalezienia nowych aksjomatów, dla których nie istnieje jeszcze żaden lingwistyczny szablon.

Argumenty Zahavy'ego podkreślają fundamentalną różnicę między obecnymi zdolnościami modeli AI a ludzką kreatywnością naukową. Wskazują, że prawdziwy postęp w dziedzinie sztucznej inteligencji, który mógłby doprowadzić do rewolucyjnych odkryć, wymagałby systemów zdolnych do interakcji ze światem fizycznym i przeprowadzania eksperymentów myślowych, a nie tylko przetwarzania danych językowych. Rozwój modeli świata, które potrafią symulować i rozumieć fizyczne interakcje, może być kluczem do odblokowania tej brakującej zdolności i zbliżenia AI do poziomu ludzkiej intuicji i innowacyjności w nauce.

Źródło: the-decoder.com