Dario Amodei z Anthropic: AI z natury centralizuje władzę, a otwarte modele tylko ją przenoszą

Na platformie X rozgorzała ostra dyskusja dotycząca regulacji sztucznej inteligencji i koncentracji władzy w tej dziedzinie. Inwestor Gavin Baker, były doradca Białego Domu David Sacks oraz badacz Meta Yann LeCun zarzucają dyrektorowi generalnemu Anthropic, Dario Amodeiemu, stosowanie retoryki strachu w celu uzyskania przewagi regulacyjnej.

Spór rozpoczął się od twierdzenia Gavina Bakera w podcaście „All-In”, że Dario Amodei miał wewnętrznie mówić o możliwości, iż Anthropic stanie się jedyną prywatną firmą na świecie, obok rządów. Badacz Anthropic, Sholto Douglas, określił to jako „całkowicie fałszywe”, argumentując, że to właśnie koncentracja władzy gospodarczej jest największym lękiem firmy. Douglas podkreślił, że rynek AI jest już niezwykle konkurencyjny, a wszystkie duże firmy ścigają się w tworzeniu inteligentniejszych i tańszych modeli.

Dwie perspektywy na zagrożenia AI

Gavin Baker jasno przedstawił sedno sporu: jeśli sztuczna inteligencja jest potencjalnie niebezpieczna, istnieją dwie podstawowe postawy. Pierwsza zakłada, że jest ona zbyt niebezpieczna, by ją szeroko rozpowszechniać, i należy ją skoncentrować w rękach kilku firm i polityków. Druga zaś, że jest zbyt niebezpieczna, by ją koncentrować, i należy ją rozpowszechnić jak najszerzej. W opinii Bakera, wiara w to, że absolutna władza w sposób życzliwy zadba o ludzkość, rzadko kończyła się dobrze w historii.

Były główny badacz Meta, Yann LeCun, również zdecydowanie opowiedział się za otwartą sztuczną inteligencją. Porównał AI do prasy drukarskiej i internetu, twierdząc, że wzmacnia ona ludzką inteligencję poprzez poprawę dostępu do wiedzy. LeCun podkreślił, że społeczeństwa potrzebują szerokiej różnorodności systemów AI o różnych wartościach, podobnie jak potrzebują zróżnicowanej prasy. W jego ocenie, „dobra” sztuczna inteligencja jednej osoby przeciwstawia się „złej” sztucznej inteligencji innej.

Amodei odpowiada: fałszywy wybór i natura centralizacji

Do długiej dyskusji włączył się sam Dario Amodei. W swoim zaledwie czwartym wpisie na X w tym roku, Amodei nazwał przedstawione ramy „fałszywym wyborem”. Zauważył, że w części Doliny Krzemowej panuje założenie, iż regulacje automatycznie oznaczają „regulatory capture”, czyli przejęcie regulacji przez branżę na własną korzyść. Amodei uznał to za zbyt proste, argumentując, że regulacje mogą również ograniczać władzę korporacji i pomagać zwykłym obywatelom, zwłaszcza gdy dobre instytucje opierają władzę na ideach, a nie na jednostkach.

Amodei wyjaśnił, że Anthropic celowo projektuje swoje propozycje tak, aby spowolnić wiodące laboratoria i faworyzować mniejsze firmy. Jako dowód wskazał na kalifornijską ustawę SB53, która całkowicie zwalnia z wymogów firmy poniżej określonego progu przychodów lub kosztów szkolenia. Stwierdził, że otwarte modele, których wagi są swobodnie dostępne, rozwiązują problem tylko częściowo. Według niego, jedynie przenoszą one koncentrację władzy na tych, którzy posiadają największą moc obliczeniową i najwięcej układów AI, co ostatecznie sprowadza się do dużych laboratoriów. Amodei podkreślił, że AI centralizuje się ze względu na swoją strukturę, głównie z powodu praw skalowania, a nie z powodu regulacji.

Krytyka ze strony Davida Sacksa i Gavina Bakera

Inwestor David Sacks, do niedawna doradca Białego Domu ds. AI, skrytykował stanowisko Amodeiego w dziewięcioczęściowej odpowiedzi. Zwrócił uwagę, że Amodei faktycznie nie zaprzecza doniesieniom Bakera, choć mógłby to łatwo zrobić. Sacks uznał argument Amodeiego o „bańce regulacyjnej” za „chochoła”, ponieważ prawie nikt nie uważa, że każda regulacja jest przejęciem. Przywołał definicję laureata Nagrody Nobla George'a Stiglera, zgodnie z którą branża przejmuje zasady i zarządza nimi głównie dla własnej korzyści, podczas gdy korzyści dla szerszego społeczeństwa pozostają rozproszone i niezorganizowane.

Sacks zasugerował, że Anthropic doskonale rozumie ten mechanizm, zatrudniając kilku byłych urzędników AI z administracji Bidena i budując rozbudowany aparat rządowy. Wyśmiał propozycję Amodeiego dotyczącą federalnej agencji do przeglądu najlepszych modeli przed ich wydaniem, nazywając ją „biurem zatwierdzania AI”. Sacks ostrzegł, że taki proces przeglądu stworzyłby długie kolejki i spowolniłby Stany Zjednoczone w wyścigu z Chinami, które nie przyjmą takich wymogów.

Gavin Baker podsumował, że debata jest już zakończona, ponieważ niemal każda duża firma, z wyjątkiem Anthropic, podpisała list Jensena Huanga popierający otwarte modele. Dyskusja ta uwydatnia fundamentalne różnice w postrzeganiu przyszłości sztucznej inteligencji i roli regulacji, co ma kluczowe znaczenie dla kształtowania polityki technologicznej na świecie.

Źródło: the-decoder.com