Badania nad AGI i obawy egzystencjalne to dwie strony tej samej monety

Dzisiejsza wiadomość o powołaniu przez Google DeepMind interdyscyplinarnego instytutu do badania sztucznej ogólnej inteligencji (AGI) to z jednej strony ekscytujący sygnał o przyspieszeniu prac nad tym, co wielu uważa za ostateczny cel AI. Z drugiej jednak, nie mogę oprzeć się wrażeniu, że jest to również odpowiedź na coraz głośniejsze i bardziej uzasadnione obawy, które wyrażają sami badacze. To, że gigant technologiczny inwestuje w struktury mające zająć się bezpieczeństwem i zarządzaniem AGI, świadczy o rosnącej świadomości skali wyzwań, przed którymi stoimy.

Utworzenie DeepMind Institute (DMI), jak czytamy w naszym artykule Google DeepMind powołuje interdyscyplinarny instytut do badania AGI, ma na celu połączenie perspektyw technologicznych, społecznych i etycznych. To kluczowe, bo rozwój AGI to nie tylko inżynieria, ale także głębokie implikacje filozoficzne, ekonomiczne i polityczne. Moim zdaniem, jest to krok w dobrym kierunku, choć spóźniony w stosunku do tempa, w jakim postępuje rozwój modeli. Powinno to być standardem od samego początku, a nie reakcją na już istniejące zagrożenia.

Niepokój jest tym bardziej uzasadniony, gdy zestawimy to z wynikami badania AI Impacts, o którym pisaliśmy w artykule Badanie: Prawie co piąty badacz AI przewiduje scenariusz zagłady ludzkości z powodu sztucznej inteligencji. Średnio 18% badaczy AI uważa, że sztuczna inteligencja może doprowadzić do wyginięcia lub trwałego osłabienia ludzkości. To nie są marginalne opinie garstki sceptyków, ale głos znaczącej części środowiska, które najlepiej rozumie potencjał i ryzyka tej technologii. Fakt, że te obawy narastają, a tempo rozwoju AI jest błyskawiczne, tylko podkreśla pilność działań takich jak powołanie DMI.

Debata na temat egzystencjalnych zagrożeń ze strony zaawansowanej AI, którą zorganizowało MIT Technology Review i którą również poruszyliśmy w naszym serwisie Czy zaawansowana sztuczna inteligencja może zagrozić ludzkości? Debata MIT Technology Review, pokazuje, że temat ten przestaje być domeną science fiction i staje się przedmiotem poważnych dyskusji akademickich i branżowych. Nie możemy ignorować tych sygnałów. Rozwój AGI bez równoległego, intensywnego badania i wdrażania mechanizmów bezpieczeństwa to przepis na katastrofę. Cieszę się, że Google DeepMind podjęło ten krok, ale to dopiero początek długiej i skomplikowanej drogi. Musimy jako społeczeństwo wypracować mechanizmy, które pozwolą nam kontrolować tę potężną technologię, zanim ona zacznie kontrolować nas.

Źródła: the-decoder.com · the-decoder.com · technologyreview.com