Matematycy o ograniczeniach LLM-ów: świetne w obliczeniach, słabe w kreatywności

Duże modele językowe (LLM) są postrzegane jako potężne narzędzia obliczeniowe, jednak ich zdolność do prawdziwie kreatywnego myślenia i generowania nowych idei budzi wątpliwości wśród czołowych matematyków. Timothy Gowers i Peter Sarnak podkreślają, że choć LLM-y doskonale radzą sobie z łączeniem istniejących metod i eksplorowaniem wielu ścieżek rozwiązań, to brakuje im intuicji niezbędnej do wyboru nielicznych, produktywnych dróg w obszernej przestrzeni poszukiwań. Sarnak dodaje, że AI potrafi wyprowadzać wyniki z istniejącej teorii, ale nie jest w stanie rozwijać abstrakcji leżących u podstaw ważnych dowodów, gdy zaczyna od podstawowego pytania.

Bariery w twórczym myśleniu AI

Według Gowersa, obecne modele językowe są biegłe w kombinowaniu znanych metod i testowaniu wielu ścieżek w procesie rozwiązywania problemów. Problem pojawia się, gdy konieczne jest zidentyfikowanie najbardziej obiecujących kierunków spośród ogromnej liczby możliwości. To właśnie ta zdolność do intuicyjnego wyboru, którą posiadają ludzie, jest kluczowa w matematyce i wydaje się być poza zasięgiem obecnych LLM-ów. Sarnak uzupełnia tę perspektywę, wskazując na niezdolność AI do tworzenia nowych abstrakcji, które są fundamentem przełomowych dowodów matematycznych, zwłaszcza gdy punktem wyjścia jest elementarne zagadnienie.

Manipulacyjna abdukcja jako kluczowe ograniczenie

Podobne wnioski przedstawił Tom Zahavy, badacz z DeepMind, w swojej pracy zatytułowanej „LLMs Can't Jump”. Zahavy identyfikuje „manipulacyjną abdukcję” jako główną przeszkodę. Termin ten odnosi się do zdolności do wynajdywania nowych, fundamentalnych założeń, które nie mają precedensu językowego. Jest to umiejętność tworzenia całkowicie nowych koncepcji, a nie tylko przetwarzania i łączenia już istniejących. Zahavy sugeruje, że modele świata (world models) mogą stanowić drogę naprzód w przezwyciężaniu tego ograniczenia. Oceny te wpisują się w szerszą debatę na temat tego, czy LLM-y faktycznie stają się bardziej wszechstronne, czy też jedynie lepiej radzą sobie z testami porównawczymi i znanymi obszarami problemowymi.

Kontekst szerszej dyskusji o AI

Te spostrzeżenia czołowych matematyków i badaczy AI są istotne dla zrozumienia obecnych możliwości i ograniczeń dużych modeli językowych. Podkreślają one, że mimo imponujących postępów w przetwarzaniu informacji i zdolnościach obliczeniowych, prawdziwa kreatywność i zdolność do generowania fundamentalnie nowych idei pozostają wyzwaniem. Dalszy rozwój AI będzie prawdopodobnie wymagał innowacji w obszarach wykraczających poza samo przetwarzanie języka, koncentrując się na mechanizmach, które pozwolą na głębsze rozumienie i tworzenie abstrakcji, co jest kluczowe dla postępu w dziedzinach takich jak matematyka i nauka. Wskazuje to na potrzebę dalszych badań nad architekturami AI, które mogłyby naśladować bardziej złożone procesy myślowe, a nie tylko optymalizować istniejące rozwiązania.

Źródło: the-decoder.com