Samodoskonalenie AI: Badanie podważa szybkie prognozy postępu

Obietnica, że sztuczna inteligencja wkrótce będzie w stanie samodzielnie się doskonalić, z minimalnym nadzorem człowieka, jest jedną z najśmielszych w branży AI. Obecne duże modele językowe (LLM) potrafią już pisać kod, generować syntetyczne dane do trenowania, a nawet optymalizować układy scalone, na których działają. Prognozy szybkiego postępu AI przewidują, że tzw. rekurencyjne samodoskonalenie jest na horyzoncie.

Jednak nowe badanie sugeruje, że osiągnięcie tego etapu może zająć więcej czasu, niż się spodziewano. Naukowcy stojący za tym odkryciem stwierdzili, że agenci AI nie są jeszcze zdolni do prowadzenia otwartych badań naukowych – swobodnych dociekań, które nie mają jednoznacznych odpowiedzi i wymagają oceny oraz wyczucia, kluczowych dla budowania samodoskonalącej się AI.

Luka w kreatywności i ocenie

Międzyinstytucjonalna grupa badaczy, kierowana przez Petera Kirgisa i Sayasha Kapoora z Princeton University, ustaliła, że agenci AI są w stanie rozwiązywać problemy inżynieryjne niezbędne do prowadzenia badań w dziedzinie sztucznej inteligencji. Brakowało im jednak zdolności oceny i kreatywności, by tworzyć oryginalne prace badawcze na poziomie artykułów akceptowanych przez czołowe konferencje z zakresu uczenia maszynowego. Ta luka wskazuje, że niektóre z optymistycznych harmonogramów automatyzacji badań AI mogą wyprzedzać faktyczne dowody.

Większość dotychczasowych badań nad automatyzacją badań AI przez agentów ocenia ich zdolność do wykonywania wąskich zadań z weryfikowalnymi odpowiedziami, takich jak rozwiązywanie problemów inżynieryjnych czy dostrajanie małych modeli językowych w oparciu o benchmarki. Jednak postęp w badaniach AI wymaga również otwartego myślenia – wyboru zestawu hipotez, decydowania, jakie dowody rozstrzygną pytanie, czy wiedzy, kiedy zacząć od nowa.

Aby przetestować agentów pod kątem tych umiejętności, badacze zaproponowali nową metodę oceny nazwaną „oceną cieniową” (shadow evaluation). Wymaga ona od AI odpowiedzi na pytanie badawcze z wysokiej jakości, niepublikowanego artykułu.

Eksperyment z Claude Opus 4.8

Naukowcy poprosili model Anthropic Claude Opus 4.8, działający na otwartym oprogramowaniu OpenClaw, o zmierzenie się z takimi pytaniami, pochodzącymi z dwóch artykułów zgłoszonych na prestiżową konferencję NeurIPS 2026. Pierwsze pytanie dotyczyło możliwości kontrolowania „person” dużego modelu językowego poprzez edycję jego wag. Drugie pytało o projekt detektora wskazującego, kiedy model przewidujący dane z arkuszy kalkulacyjnych staje się niewiarygodny. Ponieważ artykuły nie były publiczne, agenci nie mogli zapamiętać odpowiedzi z danych treningowych ani znaleźć ich w internecie.

Agenci otrzymali sześć dni, 3000 dolarów w kredytach API Anthropic, budżet na GPU do przeprowadzenia eksperymentów, własne wirtualne komputery oraz dostęp do otwartej sieci, aby stworzyć pracę badawczą godną publikacji na czołowej konferencji AI. Oryginalni autorzy artykułów oceniali prace agentów tak, jak ocenialiby zgłoszenia na konferencję.

Naukowcy stwierdzili, że agenci byli zdolni do wykonania wszystkich zadań inżynieryjnych wymaganych do przeprowadzenia badań. Przejrzeli literaturę, przeprowadzili setki eksperymentów i skompilowali wyniki. Jednakże, jak zauważył Kapoor, „agenci byli jednoznacznie słabi w prowadzeniu samych badań”. Przeprowadzali dziwaczne eksperymenty (np. testując hipotezy na maleńkich syntetycznych zbiorach danych), mieli trudności z czytelnym opisaniem swojej pracy i nie wnieśli żadnego nowatorskiego wkładu w swoje dziedziny. „Artykuły były dalekie od jakości wymaganej na czołowej konferencji AI” – podsumował Kapoor.

Brak kreatywności i zdolności do zmiany podejścia

Agenci mieli problemy z kreatywnością i oceną niezbędną do prowadzenia badań. Nie eksplorowali wystarczająco różnych pomysłów i zbyt szybko angażowali się w nieobiecujące podejścia. Chociaż agenci opracowali nowatorskie i ambitne hipotezy, podobne do tych, od których zaczynali oryginalni autorzy, odrzucali je na podstawie bardzo ograniczonych danych. Nie potrafili również wycofać się z nieudanych podejść. Mogli dokonywać małych korekt, ale nie byli w stanie fundamentalnie przemyśleć swojego podejścia ani spróbować nowych od podstaw.

Agenci nie potrafili również włączyć informacji zwrotnych od podagentów ani zewnętrznych narzędzi do recenzowania AI. Zamiast rewidować swoją metodologię, agenci zawężali swoje twierdzenia i dodawali zastrzeżenia. Nie potrafili także efektywnie wykorzystywać zasobów, takich jak tokeny, moc obliczeniowa i czas, ani postępować zgodnie z instrukcjami dotyczącymi czasu poświęcanego na różne fazy badań czy długości artykułu.

Mimo tych niepowodzeń, agenci nie angażowali się w tzw. „reward hacking” – ukrywanie lub fałszowanie eksperymentów czy danych. Chociaż podagenci, czyli pomocnicze AI, które główny agent tworzy do obsługi części pracy, sporadycznie halucynowały lub fałszowały wyniki, były one wychwytywane przez agenta-orchestratora, czyli główne AI nadzorujące projekt.

Dlaczego AI jest dobra w inżynierii, ale słaba w badaniach otwartych?

Kapoor uważa, że powód, dla którego modele AI są dobre w inżynierii badawczej, ale nie w badaniach otwartych, może sprowadzać się do sposobu ich trenowania. Modele stają się dobre w tym, co można ćwiczyć w reżimie treningowym zwanym uczeniem wzmocnionym, które łatwiej zastosować do zadań, których sukces można automatycznie sprawdzić. „Trudniej jest jednak tworzyć środowiska do trenowania tych modeli, gdy samo zadanie jest otwarte” – mówi Kapoor.

Zespół Kapoora prowadzi obecnie eksperyment z Mythos, najbardziej zaawansowanym modelem Anthropic, który został uruchomiony w kwietniu. Model ten jest obecnie dostępny tylko dla zatwierdzonych organizacji ze względu na wymogi bezpieczeństwa.

Ograniczenia badania i szerszy kontekst

Badanie ma pewne ograniczenia: objęło tylko dwa artykuły, a oryginalni autorzy wiedzieli, że oceniane prace zostały wygenerowane przez agentów AI, co mogło wpłynąć na ich oceny. Ponadto badacze mieli znaczną swobodę w projektowaniu i realizacji badania, co oznacza, że ich wcześniejsze przekonania i uprzedzenia mogły wpłynąć na wyniki. Oceny badań otwartych poświęcają część obiektywności na rzecz znacznie bogatszego testu niż jakiekolwiek benchmarki.

Mimo to, wyniki mogą stonować twierdzenia, że rekurencyjne samodoskonalenie jest tuż za rogiem. W czerwcu Anthropic opublikował post na blogu zatytułowany „Kiedy AI buduje się samo”, przedstawiający postępy w kierunku modeli, które przyspieszają własny rozwój. W lipcu OpenAI ogłosiło, że jego nowy model GPT-5.6 Sol pomógł w dotrenowaniu mniejszego modelu, oszczędzając badaczom tygodnie pracy.

Jack Clark, współzałożyciel Anthropic, w swoim biuletynie Import AI napisał, że wyniki te są zgodne z tym, co firma odkryła, próbując zautomatyzować niektóre aspekty badań nad bezpieczeństwem AI. „W dzisiejszych systemach AI brakuje wartościowej, intuicyjnej kreatywności, i choć są one niezwykle zdolnymi inżynierami, wydają się mieć pewną właściwość rutynowego, formułkowego myślenia, która może uniemożliwić im bycie dobrymi badaczami” – stwierdził, nazywając brak kreatywności AI „sygnałem spadkowym dla krótkich terminów samodoskonalenia rekurencyjnego”.

Firmy AI mają wszelkie powody, by rozwijać systemy AI, które mogą szybko przyspieszyć własny postęp, podobnie jak dążyły do ulepszenia modeli w kodowaniu. OpenAI postawiło sobie za wyraźny cel stworzenie zautomatyzowanego badacza AI, a Anthropic identyfikuje samodoskonalącą się AI jako kolejny kamień milowy w branży.

Najoung Kim, profesor lingwistyki i informatyki na Boston University, która bada, jak agenci AI mogą automatyzować badania AI, ale nie brała udziału w badaniu, uważa, że „jeśli będzie inwestycja i świadomy wysiłek w tym kierunku, myślę, że nastąpi interesujący postęp, nawet jeśli obecnie się nie udaje”. Z drugiej strony, możliwe jest, że postęp AI może się rozgałęzić. Systemy AI mogą szybko rozwijać się w wąskich zadaniach – tych, które można ocenić – podczas gdy w badaniach otwartych postęp będzie powolny.

Kluczowe pytanie brzmi, jak istotne są badania otwarte dla rekurencyjnego samodoskonalenia – czy systemy AI mogą osiągnąć ten cel bez nich, po prostu poprawiając się w węższych zadaniach. Kapoor podkreśla, że „jeśli spojrzymy na największe postępy w tej dziedzinie, wynalezienie transformerów czy wynalezienie dużych nowych architektur, które pozwoliły nam na duży postęp w AI – wszystkie one wymagały kreatywnych skoków”. Inni jednak wysuwają hipotezę, że wszystko, co jest potrzebne do transformacyjnej AI, w szczególności do rekurencyjnego samodoskonalenia, już istnieje, np. przyspieszenie trenowania modelu i zwiększenie jego wyników benchmarkowych. „To szczerze mówiąc, pytanie za bilion dolarów” – podsumowuje Kapoor.

Wyniki tego badania rzucają nowe światło na realistyczne perspektywy rozwoju sztucznej inteligencji. Choć agenci AI wykazują imponujące zdolności inżynieryjne, ich obecne ograniczenia w zakresie kreatywności i zdolności do prowadzenia otwartych, innowacyjnych badań sugerują, że droga do prawdziwie samodoskonalącej się AI może być dłuższa i bardziej złożona, niż sugerują niektóre optymistyczne prognozy. Podkreśla to znaczenie dalszych badań nad tym, jak rozwijać w AI umiejętności wykraczające poza rutynowe zadania, aby mogła ona w pełni realizować swój potencjał w dziedzinach wymagających prawdziwie twórczego myślenia.

Źródło: technologyreview.com