Trzech pionierów AI dyskutuje o otwartości modeli w obliczu obaw o bezpieczeństwo

W obliczu narastających obaw dotyczących bezpieczeństwa sztucznej inteligencji, kwestia otwartych modeli stała się punktem zapalnym w branży. Projekty takie jak Pacing the Frontier, dążące do zapewnienia bezpieczeństwa badań AI poprzez współpracę z dużymi laboratoriami, zderzają się z wyzwaniem, jakim jest swobodna dystrybucja i ograniczona kontrola nad wykorzystaniem modeli o otwartych wagach. Niektóre laboratoria postrzegają je wręcz jako zagrożenie.

Jednak na konferencji Ai4 w Las Vegas, która odbyła się w ubiegłym tygodniu, trzej uznani badacze AI – laureat Nagrody Nobla Geoffrey Hinton, współzałożycielka i dyrektor generalna World Labs Fei-Fei Li oraz współzałożyciel Coursera Andrew Ng – zabrali głos w tej sprawie. Mimo różnic w podejściu do konkretnych taktyk, wszyscy trzej zgodnie opowiedzieli się za utrzymaniem otwartości w rozwoju sztucznej inteligencji.

Obawy przed monopolizacją i rola otwartości

Głównym zmartwieniem wszystkich prelegentów była perspektywa, że garstka największych firm AI będzie kontrolować tempo postępu technologicznego. Jak zauważył Andrew Ng, gdy dostęp do technologii jest kontrolowany przez kilka podmiotów – podobnie jak w przypadku systemów operacyjnych mobilnych Apple i Google – innowacje mogą spowolnić, a firmy kontrolujące platformy zyskują wpływ na to, co jest na nich budowane.

Andrew Ng wyraził obawę przed podobną dynamiką w AI, mówiąc: „Nie chcę, aby istnieli strażnicy. To ogranicza nasz wspólny dostęp do AI”. Firmy mają naturalną motywację do ochrony swoich przewag konkurencyjnych, w tym poprzez wpływanie na regulacje branżowe. Mogłoby to doprowadzić do sytuacji, w której tylko największe, najlepiej skapitalizowane firmy, dysponujące zasobami do budowania najbardziej zaawansowanych systemów AI, dominowałyby na rynku.

Rozwiązaniem proponowanym przez Ng było utrzymanie wielu dostawców, z modelami i firmami konkurującymi ze sobą, zamiast pozwolić kilku graczom zdominować pole. „Gdybym miał podać jedną receptę, byłoby to promowanie otwartości” – powiedział Ng, dodając: „ponieważ AI to niesamowita technologia i chcę, aby była w rękach każdego”.

Otwartość kodu a otwartość wag: perspektywa Geoffreya Hintona

Nie wszyscy jednak zgodzili się, że modele o otwartych wagach pomogą zachować ten stan rzeczy. Geoffrey Hinton, w szczególności, rozróżnił między oprogramowaniem open source, które udostępnia kod źródłowy do wglądu i modyfikacji, a modelami o otwartych wagach, które udostępniają publicznie parametry wytrenowanego modelu AI.

„Open source jest świetny. Pokazujesz ludziom kod, a wielu ludzi patrzy na linie kodu i mówi: 'Och, jest błąd'. Otwarte wagi oznaczają, że trenujesz duży model, a następnie dajesz ludziom wagi. To bardzo różne” – wyjaśnił Hinton. „Byłem przeciwny otwartym [wagom], ponieważ bardzo ułatwia to ludziom wykorzystanie tych dużych modeli podstawowych, których trenowanie jest bardzo kosztowne, i za znacznie mniejsze pieniądze wytrenowanie ich do złych celów, takich jak cyberataki”.

Jednak pomimo swoich zastrzeżeń, Hinton przyznał, że modele o otwartych wagach są już stałym elementem AI. „Myślę, że ta bitwa została przegrana. Mamy teraz modele o otwartych wagach, więc bariera dla wielu ludzi w uzyskaniu tych dużych modeli, którą był koszt trenowania modeli podstawowych, zniknęła. Jest za późno”.

Akceptacja tej rzeczywistości nie oznaczała jednak ignorowania ryzyka. Stanowisko Hintona było jasne: AI będzie się rozwijać, co uważał za w dużej mierze dobrą rzecz. Stwierdził, że zwiększy to produktywność oraz poprawi edukację i opiekę zdrowotną. „Martwienie się o możliwe złe skutki AI i rzeczy, które inteligentne istoty mogą zrobić, gdy będą od nas mądrzejsze. Nie sądzę, żeby to było niesprawiedliwe. Uważam, że niesprawiedliwe jest nazywanie każdego, kto tak myśli, siewcą strachu” – dodał Hinton.

Konkurencyjność i niuanse otwartości

Ng przedstawił inną perspektywę. Argumentował, że pytanie nie dotyczyło tego, czy otwarte modele są ryzykowne, ale kto kontroluje dostęp i kto wygra rynek. Kto zbuduje tańszy model, ten będzie miał przewagę. Ostrzegł, że jeśli chińskie modele o otwartych wagach zyskają szerokie zastosowanie w Azji, Afryce i/lub krajach rozwijających się, mogą wpłynąć na to, jak miliardy ludzi postrzegają idee demokracji, wolności i praw człowieka.

„Jedną rzeczą, na którą mam nadzieję, jest zachęcanie do amerykańskiej konkurencyjności i otwartego kodu AI. Okazuje się, że AI jest ogromnym źródłem miękkiej siły. Można zobaczyć, jak chiński model odnosi ogromne sukcesy na przykład w Afryce” – powiedział Ng. „Ale obawiam się, że z powodu lobbingu w USA i siania strachu, budowanie otwartego kodu AI w Ameryce ma trudności z konkurowaniem z modelami o otwartych wagach pochodzącymi z Chin, a moja obawa jest taka, że jeśli Chiny znajdą fundamentalnie bardziej opłacalny sposób budowania AI, to rzeczy, które są bardziej opłacalne, mają fundamentalną przewagę w adopcji biznesowej”.

Fei-Fei Li odrzuciła takie ramy dyskusji. „Bardzo niebezpieczne jest tworzenie dychotomii między całkowitą otwartością a całkowitą zamkniętością” – stwierdziła. „W złożonych systemach oprogramowania, jak również w systemach naukowych, jest to znacznie bardziej zniuansowane”. Li posłużyła się przykładem fizyki jądrowej: artykuły naukowe są publikowane otwarcie, ale uran jest regulowany, podczas gdy prace laboratoryjne plasują się gdzieś pośrodku. Lekcja, jak wyjaśniła, polega na tym, że otwartość nie musi być wyborem typu „wszystko albo nic”. Różne warstwy ekosystemu mogą działać na różnych poziomach otwartości.

Podkreśliła również współpracę między instytucjami publicznymi i prywatnymi, taką jak Projekt Poznania Ludzkiego Genomu. Wynikająca z niego wiedza stała się platformą, na której inni mogli budować, umożliwiając firmom farmaceutycznym osiąganie zysków, naukowcom rozwijanie ich pracy, a społeczeństwu czerpanie korzyści.

„Myślę więc, że musimy używać [AI] jako takiej infrastruktury” – powiedziała Li. „Potrzebujemy pewnych poziomów otwartości, zarówno w odkryciach naukowych, w edukacji, w globalnym partnerstwie, jak i w lukratywnych modelach biznesowych dla przedsiębiorców. Ale zaakceptujemy również systemy zamknięte. Ta debata, zwłaszcza na tak szerokim poziomie 'możemy tolerować tylko jedno', jest fałszywą debatą. Musimy osiągnąć poziom niuansów”.

Potrzeba regulacji i odpowiedzialności

Wszyscy prelegenci zgodzili się jednak, że pewien poziom regulacji będzie konieczny, aby utrzymać AI na właściwej ścieżce. „Chcemy rozwijać AI w kierunku, który pomaga ludziom, a regulacje pomogą nam to osiągnąć” – powiedział Hinton. „Nie można pozostawić decyzji o tym, jak powinna być rozwijana AI, ludziom takim jak Elon Musk i Mark Zuckerberg”.

Dyskusja na konferencji Ai4 podkreśla złożoność wyzwań związanych z rozwojem sztucznej inteligencji. Otwartość, choć pożądana dla innowacji i demokratyzacji dostępu, niesie ze sobą ryzyka, które wymagają przemyślanych rozwiązań regulacyjnych i etycznych. Balansowanie między swobodą badań a odpowiedzialnością za potencjalne negatywne konsekwencje pozostaje kluczowym zadaniem dla globalnej społeczności AI, wskazując na potrzebę współpracy i dialogu ponad podziałami technologicznymi i politycznymi.

Źródło: techcrunch.com