Spór o dowód OpenAI: Czy badacze mogą ufać laboratoriom AI?

Spór dotyczący dowodu równań Naviera-Stokesa, jednego z problemów milenijnych Clay Mathematics Institute z nagrodą miliona dolarów, wygenerowanego przez sztuczną inteligencję OpenAI, wywołał publiczne oświadczenia wszystkich zaangażowanych stron. Matematyk Tristan Buckmaster oskarżył OpenAI o niewłaściwe postępowanie, co stawia pod znakiem zapytania zaufanie środowiska naukowego do laboratoriów AI i praktyk otwartej nauki.

Oskarżenia i rozbieżności w relacjach

Tristan Buckmaster wcześniej wysunął poważne zarzuty wobec OpenAI. Twierdził, że po wycieku informacji o jego badaniach firma wywierała na niego presję, próbowała usunąć jego współautora, Leventa Alpöge'a, z artykułu z powodu jego zatrudnienia w firmie Anthropic, a także groziła mu konsekwencjami zawodowymi. Pojawiły się również podejrzenia, że OpenAI mogło trenować swoje modele na roboczych wersjach prac, które Buckmaster i Alpöge przesłali do systemu Codex.

Jedna kwestia pozostaje bezsporna: OpenAI przyznaje, że po usłyszeniu plotek o rozwiązaniu problemu milenijnego przez modele Anthropic, skierowało własne zasoby na to samo zagadnienie. W wielu innych punktach relacje stron są rozbieżne. Alpöge i Buckmaster kwestionują twierdzenie OpenAI, że ich własne rozwiązanie znacząco różni się od ich podejścia. Twierdzą, że wprowadzili podobne rozwiązanie do systemów OpenAI. Buckmaster uważa, że te dane wejściowe mogły trafić do danych treningowych modelu, co nazywa „absolutnym nadużyciem akademickim”.

Pracownicy OpenAI utrzymują, że szansa na to, iż firma faktycznie trenowała na przesłanych rozwiązaniach, jest niska, zwłaszcza jeśli badacze nie wyłączyli opcji wykluczania swoich danych z treningu. Nie jest publicznie wiadomo, czy tak zrobili. Boaz Barak, pracownik OpenAI, odrzucił również sugestię, że model potrzebował zewnętrznej pomocy, stwierdzając: „To tylko wymówka, by myśleć, że model tego potrzebował. W rzeczywistości zaczął od udowodnienia silniejszego twierdzenia niż oni. Każdy, kto widział ten model w akcji, nie pomyślałby, że potrzebuje 'podpowiedzi'”.

Stanowisko OpenAI i reakcja CEO

W swoim oficjalnym wpisie na blogu OpenAI przyznaje, że istnieje pewna niepewność. Firma stwierdza: „Chociaż jest to mało prawdopodobne, nie możemy wykluczyć, że zanonimizowane dane pochodzące z ich użytkowania naszych produktów pomogły ulepszyć nasze modele”.

Sam Altman, CEO OpenAI, poparł zespół na platformie X, twierdząc, że działali „z uczciwością i hojnością”. Dodał, że sugerowano, aby Buckmaster i Alpöge otrzymali nagrodę, ale zespół spotkał się z „bezpodstawnymi oskarżeniami o plagiat”. Altman napisał również, że całe przedsięwzięcie rozpoczęło się z powodu „plotek w internecie w zeszłym tygodniu, że modele Anthropic rozwiązały problem milenijny, i byliśmy ciekawi, czy nasze też to potrafią”.

Alpöge zaprzecza Altmanowi w jednej kluczowej kwestii. Altman napisał, że trudno było złożyć Alpöge'owi taką samą ofertę, ponieważ „nie był skłonny do rozmów ani koordynacji z nami”. Alpöge twierdzi, że chętnie współpracowałby z OpenAI, a kwestia autorstwa nie miała dla niego znaczenia. „Podoba mi się również idea współpracy laboratoriów, a jeszcze bardziej postępu naukowego. To wstyd!” – napisał Alpöge.

Konsekwencje dla otwartej nauki

Niezależnie od tego, kto ma rację w każdym szczególe, sprawa ta podnosi fundamentalne pytanie o to, jak laboratoria AI wchodzą w interakcje ze społecznością badawczą. Same plotki wystarczyły, aby OpenAI w krótkim czasie przeznaczyło ogromne zasoby na problem badawczy, ścigając się, by go rozwiązać i być może opublikować wyniki jako pierwsze. Nie można również wykluczyć, że firma trenowała na danych wprowadzonych do jej własnych systemów.

Dla środowiska akademickiego i firm wniosek jest prosty: każdy, kto wprowadza dane badawcze do systemów OpenAI, ryzykuje, że jego własne odkrycia zostaną wykorzystane przez firmę. Wyłączenie opcji treningu danych poprzez ustawienia oferuje w najlepszym razie niewielką ochronę, zwłaszcza że laboratoria AI nie zdobyły zaufania w kwestii praktyk treningowych i zarządzania danymi.

Matematyk Terence Tao, jeden z najbardziej wpływowych żyjących matematyków, ostrzega na platformie Mastodon, że „nawet plotka o tym, że ktoś pracuje nad problemem, może wywołać masowy wysiłek oparty na AI, aby go 'spłaszczyć', zanim oryginalny projekt badawczy zdąży osiągnąć swój pełny potencjał”. Tao dodaje, że „zachęty mogą teraz wskazywać na to, aby nie dzielić się już żadnymi obiecującymi kierunkami badań z szerszą społecznością, co odwróciłoby wieki tradycji otwartej nauki i wyrządziłoby poważne długoterminowe szkody przyszłości tej dziedziny”. Ta sytuacja podkreśla rosnące napięcie między komercyjnymi interesami a etosem otwartej współpracy naukowej w erze dynamicznego rozwoju sztucznej inteligencji.

Źródło: the-decoder.com