Letnie szaleństwo wokół AI: Czy to przełom, czy tylko marketing?

Ostatnie miesiące przyniosły falę doniesień o spektakularnych osiągnięciach w dziedzinie sztucznej inteligencji. Firmy takie jak Anthropic i OpenAI regularnie informowały o swoich modelach, które miały dokonywać matematycznych przełomów, przewyższać ekspertów w znajdowaniu luk bezpieczeństwa czy nawet zmierzać w kierunku samo-udoskonalającej się superinteligencji. Media często podchwytywały te rewelacje, powielając antropomorficzne narracje, które miały sugerować, że oprogramowanie to nie tylko potężne narzędzie, ale wręcz zalążek ogólnej sztucznej inteligencji (AGI). Jednakże, bliższe spojrzenie na te wydarzenia, często z perspektywy niezależnych ekspertów, ukazuje zupełnie inny obraz, daleki od medialnego szumu.

Rzekome przełomy i incydenty bezpieczeństwa

Pod koniec kwietnia Anthropic ogłosił, że jego model Claude Mythos jest skuteczniejszy w wykrywaniu luk w oprogramowaniu niż większość ekspertów ds. bezpieczeństwa. Niedługo potem doszło do incydentu hakerskiego z udziałem OpenAI i Hugging Face, po którym Anthropic (z dumą) i Meta (niechętnie) ujawniły podobne zdarzenia dotyczące ich własnych modeli. W kontekście tych „ataków” eksperci ds. cyberbezpieczeństwa zwracają uwagę, że problemem nie były „zbuntowane modele” czy „agenci AI tworzący cywilizacje”, lecz raczej zaniedbania OpenAI i brak podstawowych, ugruntowanych praktyk bezpieczeństwa.

Kolejnym głośnym tematem były rzekome przełomy matematyczne. Anthropic twierdził, że jeden z jego modeli dokonał odkrycia w tej dziedzinie, a wkrótce potem OpenAI ogłosiło własny sukces. Początkowo matematycy byli „oszołomieni” komunikatem prasowym OpenAI, informującym, że ich chatbot Astra rozwiązał problemy, które pozostawały nierozwiązane przez dekadę. Szybko jednak okazało się, że wyniki te nie były tak „nowatorskie, jak się początkowo wydawało”. Od tego czasu matematycy oskarżyli firmę o nadużycia badawcze i plagiat, podkreślając, że Astra nie dokonała „głębokiego skoku intelektualnego”. Co więcej, profesor matematyki Tristan Buckmaster z New York University’s Courant Institute opublikował oświadczenie sugerujące, że OpenAI ukradło cudzą pracę i niewłaściwie ją przypisało.

Superinteligencja jako narzędzie marketingowe

Twierdzenia o rodzącej się, niebezpiecznej superinteligencji nie opierają się na rzetelnych praktykach naukowych czy inżynierskich. Są to raczej narracje zakorzenione w ideologiach transhumanizmu, eugeniki i życzeniowego myślenia o wyimaginowanych przyszłych cyfrowych ludziach. Warto zastanowić się, dlaczego tak wiele uwagi poświęca się programowaniu komputerowemu i matematyce jako dziedzinom, w których stosuje się duże modele językowe. Nie tylko są one często postrzegane jako szczyt ludzkich osiągnięć intelektualnych, ale także dotyczą problemów, których odpowiedzi, po zasugerowaniu, można zweryfikować. Ta druga właściwość ułatwia firmom AI dostosowywanie systemów, ponieważ ich wyniki (sekwencje prawdopodobnych słów lub fragmentów kodu) mogą być oceniane bez konieczności angażowania pracowników do ich ręcznej analizy.

Matematycy ostrzegają przed wykorzystywaniem ich dziedziny w ten sposób. Oświadczenie podpisane przez setki z nich wskazuje na „silną komercyjną zachętę ze strony przemysłu technologicznego do przesadzania z możliwościami swoich produktów” i apeluje do decydentów o „konsultowanie się z ekspertami, w tym matematykami, przy podejmowaniu decyzji politycznych, zamiast polegania na komunikatach prasowych czy popularnych doniesieniach o wynikach matematycznych”.

Konsekwencje dla polityki i społeczeństwa

Iluzja szybkości i pilności, propagowana przez firmy technologiczne, służy również wprowadzaniu w błąd zarówno decydentów, jak i opinii publicznej. Niestety, czasem to działa, czego przykładem jest propozycja ustawy senatora Berniego Sandersa, mająca na celu zapobieganie rozwojowi „sztucznej superinteligencji”. Opisywanie produktów jako „superinteligencji” czy „zbuntowanych modeli” przypisuje im sprawczość, zamiast firmom, które je tworzą. Takie ujęcie nie tylko promuje produkty jako „nadludzkie”, ale także pomaga firmom unikać odpowiedzialności za swoje działania. Zamiast ścigać OpenAI za tworzenie złośliwego oprogramowania, media i prawodawcy mówią o „zbuntowanych modelach”, jakby działały one samodzielnie. Zamiast kwestionować badaczy za plagiatowanie prac akademików czy wykorzystywanie danych klientów bez zgody, uwaga publiczna jest kierowana na obawy przed fikcyjnymi superinteligentnymi maszynami.

Przemysł AI sugeruje nawet, że aktywizm przeciwko centrom danych jest „rozpraszaniem uwagi” od prób regulowania nadchodzących, przerażających „nadludzkich” maszyn. Według branży AI, powinniśmy bardziej martwić się fikcyjnym bogiem-maszyną niż katastrofą klimatyczną, którą te centra danych pogłębiają, astmą cierpiących w ich pobliżu, rosnącymi rachunkami za prąd czy wodą przekierowywaną do ich chłodzenia. Mądre podejmowanie decyzji, zarówno przez decydentów, jak i społeczności, wymaga czasu na wysłuchanie niezależnych ekspertów i kontekstualizację twierdzeń korporacyjnych. Najlepszym możliwym wynikiem tego „lata szumu” jest to, że decydenci i opinia publiczna nauczą się zachować sceptycyzm i rozpoznawać tego rodzaju marketingowe zagrywki, gdy pojawią się ponownie.

Źródło: technologyreview.com