CEO Google DeepMind wzywa do utworzenia niezależnego organu regulacyjnego dla zaawansowanej sztucznej inteligencji

Demis Hassabis, dyrektor generalny Google DeepMind, wezwał do powołania nowego organu regulacyjnego, który nadzorowałby wprowadzanie na rynek zaawansowanych modeli sztucznej inteligencji. Propozycja, przedstawiona w poście na platformie X zatytułowanym „Ramy dla zaawansowanej sztucznej inteligencji i nadejście nowej ery”, zakłada utworzenie „organu standaryzacyjnego” wzorowanego na Financial Industry Regulatory Authority (FINRA). Jego zadaniem byłoby testowanie modeli AI i opracowywanie najlepszych praktyk dotyczących ich wdrażania.

Proponowany model regulacji

Zgodnie z wizją Hassabisa, początkowo laboratoria rozwijające zaawansowane modele AI (tzw. „Frontier Labs”) dobrowolnie udostępniałyby swoje modele organowi standaryzacyjnemu do przeglądu na 30 dni przed ich publicznym udostępnieniem. Po udowodnieniu skuteczności i solidności protokołu oceny, system mógłby zostać sformalizowany, co oznaczałoby, że modele musiałyby przejść taką ocenę, aby mogły być wdrożone na rynku amerykańskim. Laboratoria współpracowałyby również z organem w celu rozwiązywania wszelkich krytycznych luk bezpieczeństwa po wydaniu modelu.

Proponowany system miałby bazować na dotychczasowych, doraźnych przeglądach przeprowadzanych przez rząd USA w odniesieniu do modeli takich jak Anthropic Mythos i OpenAI Sol. Te wcześniejsze przeglądy spotkały się z krytyką z powodu braku specjalistycznej wiedzy technicznej i nieprzejrzystości procesów decyzyjnych dotyczących dopuszczenia modeli. W ramach propozycji Hassabisa, decyzje te mogłyby zostać przekazane nowej, niezależnej organizacji, wspieranej przez rząd USA, ale finansowanej przez branżę AI.

Niezależność i finansowanie

Perspektywa regulacji AI pozostaje kontrowersyjna zarówno dla branży technologicznej, jak i dla administracji Trumpa. Niedawno doradca Białego Domu ds. AI i partner generalny a16z, Sriram Krishnan, wykluczył możliwość utworzenia regulatora AI w ramach władzy wykonawczej, stwierdzając, że „nie będzie FDA dla AI”.

Ustanowienie organu standaryzacyjnego jako organizacji samoregulacyjnej, podobnej do FINRA, mogłoby być sposobem na rozwianie tych obaw. Hassabis przewiduje, że regulator byłby obsadzony przez przedstawicieli open source i ekspertów technicznych z branży, a także finansowany przez laboratoria AI, co byłoby niezbędne do utrzymania wysokiej jakości kadry. Organ mógłby również zlecać niektóre oceny rosnącej liczbie grup zajmujących się bezpieczeństwem AI, które mogłyby specjalizować się w konkretnych rodzajach ryzyka.

„Siłą tego podejścia jest to, że byłoby ono skoncentrowane technicznie, jednocześnie wspierając innowacje i zachęcając do odpowiedzialnego zachowania” – argumentuje Hassabis. „Jest ono zaprojektowane tak, aby nadążać za przyspieszeniem rozwoju tej dziedziny i dostosowywać się do największych zagrożeń w miarę ich identyfikacji, a także mogłoby zostać zaostrzone, jeśli powaga sytuacji tego wymaga”.

Propozycja Hassabisa podkreśla rosnącą potrzebę wypracowania skutecznych mechanizmów nadzoru nad szybko rozwijającą się sztuczną inteligencją. Tworzenie niezależnych, technicznie kompetentnych organów, finansowanych przez branżę, ale działających autonomicznie, może stanowić klucz do budowania zaufania i zapewnienia bezpieczeństwa w erze coraz potężniejszych modeli AI, jednocześnie wspierając innowacje.

Źródło: techcrunch.com