Dario Amodei z Anthropic: Nie sprzeciwiam się otwartym modelom, ale obawiam się chińskiej AI

Dario Amodei, założyciel i dyrektor generalny firmy Anthropic, zabrał głos w poniedziałek, odpowiadając na spekulacje branżowe sugerujące, że jego przedsiębiorstwo wspiera działania rządu USA mające na celu zakazanie chińskich modeli AI o otwartej wadze lub ogólnie otwartych modeli. Amodei jasno oświadczył, że Anthropic nigdy nie opowiadał się za takim zakazem, podkreślając, że jego wcześniejsze wypowiedzi powinny rozwiać wszelkie wątpliwości.

Stanowisko Anthropic wobec otwartych modeli

Oświadczenie Amodeiego pojawiło się po tym, jak Jensen Huang, założyciel i dyrektor generalny Nvidii, opublikował na platformie X (w swoim pierwszym poście) list otwarty. W liście tym, podpisanym przez Nvidię i szereg innych firm AI, w tym Hugging Face, Meta, Microsoft i Mistral, wzywano decydentów do niezawierania przedwczesnych ograniczeń dotyczących otwartych modeli AI. Chociaż list nie wspominał konkretnie o Chinach, debata w branży koncentrowała się na zarzutach, że chińskie laboratoria AI rozwijają swoje możliwości, często poprzez kradzież własności intelektualnej od amerykańskich odpowiedników, między innymi metodą destylacji.

Amodei w swoim poście na blogu, opublikowanym w poniedziałek, zaznaczył, że otwarte modele AI postrzega inaczej niż zagrożenie ze strony Chin. Stwierdził, że otwarte modele, które nie posiadają niebezpiecznych zdolności, są dobrem publicznym. Nie generują kosztów poza mocą obliczeniową potrzebną do ich uruchomienia i dostarczają wartość firmom, deweloperom oraz badaczom. Podkreślił, że jego długotrwałe obawy dotyczące AI nie obejmują firm korzystających z otwartych modeli, nawet tych pochodzących z Chin.

Obawy Amodeiego: Autorytarne rządy i broń biologiczna

Główne obawy Amodeiego koncentrują się na możliwości, że autorytarne rządy mogą stworzyć modele AI potężniejsze niż te w USA, dążąc do trwałej przewagi militarnej lub wykorzystując AI do represjonowania własnych obywateli. Wskazał na Komunistyczną Partię Chin (KPCh) jako najbardziej zdolny, choć nie jedyny, autorytarny rząd, który budzi jego niepokój.

Amodei wyraził również obawę, że AI może umożliwić ataki biologiczne, a nie tylko cybernetyczne. W jego ocenie, otwarte modele są w takich scenariuszach bardziej niebezpieczne, ponieważ trudno jest zastosować do nich zabezpieczenia lub monitorować ich użycie. Powołując się na raport UK AI Security Institute, zauważył, że raz udostępnione otwarte modele nie mogą zostać wycofane. To stanowisko jest sprzeczne z argumentami zwolenników otwartego oprogramowania, którzy twierdzą, że dostęp do potężnych, otwartych modeli, niekontrolowanych przez pojedynczy podmiot, pomaga obrońcom w ochronie.

Propozycje działań i globalna współpraca

Amodei wymienił działania, które jego zdaniem mogłyby powstrzymać Chiny. Należą do nich: ograniczenie dostępu do potężnych chipów (co jest długotrwałą polityką USA) oraz formalne zwalczanie destylacji. Stany Zjednoczone groziły sankcjami wobec Chin w przypadku stwierdzenia kradzieży własności intelektualnej dotyczącej amerykańskich modeli.

Co ciekawe, Amodei popiera również rosnące wysiłki, częściowo prowadzone przez USA, w celu stworzenia organizacji do testowania bezpieczeństwa modeli, zwłaszcza jeśli cały świat, w tym Chiny, zgodziłby się na poddanie się jej kontroli. Uważa, że ten pomysł jest bliski konsensusu, a jego nadzieje wzbudziły działania administracji Trumpa w ostatnich miesiącach oraz propozycje branżowe, które dotyczyłyby testowania najbardziej zaawansowanych modeli, niezależnie od kraju pochodzenia czy tego, czy są otwarte, czy zamknięte. Modele mniej zaawansowane, pochodzące ze startupów i środowisk akademickich, byłyby całkowicie zwolnione z takich testów.

Amodei podkreślił, że aby testowanie było skuteczne, musiałoby mieć charakter globalny, co oznacza, że nawet KPCh musiałaby się w nie zaangażować. Wyraził przekonanie, że taka współpraca jest możliwa, szczególnie w zakresie zapobiegania biologicznym broniom AI, ponieważ leży to również w interesie Chin. To podejście sugeruje, że pomimo głębokich obaw, istnieje przestrzeń dla międzynarodowej współpracy w kluczowych obszarach bezpieczeństwa AI, co może być kluczowe dla globalnej stabilności w obliczu szybko rozwijających się technologii.

Źródło: techcrunch.com