OpenAI spowalnia rozwój modeli AI z powodu rosnących zagrożeń cyberbezpieczeństwa

OpenAI ogłosiło spowolnienie rozwoju swoich modeli sztucznej inteligencji, w tym nadchodzącego modelu o nazwie Astra. Decyzja ta jest podyktowana rosnącymi obawami dotyczącymi cyberbezpieczeństwa, a konkretnie możliwością, że Astra może być bliska uzyskania krytycznych zdolności do przeprowadzania cyberataków. Firma wstrzymała na dwa tygodnie proces uczenia wzmacniającego, a jej „największe planowane uruchomienie RL na granicy możliwości” pozostaje zawieszone. Dodatkowo, wszystkie zadania, które nie spełniają nowych wymogów bezpieczeństwa, zostały wstrzymane.

Przyczyny i podjęte działania

Spowolnienie prac jest bezpośrednią konsekwencją kilku czynników. Wśród nich wymieniono incydent bezpieczeństwa w Hugging Face oraz „szybki postęp w wewnętrznych badaniach” OpenAI, które ujawniły potencjalne zagrożenia. W odpowiedzi na te wyzwania, OpenAI podjęło szereg działań mających na celu wzmocnienie swoich systemów. Środowiska badawcze zostały „utwardzone” poprzez zastosowanie lepszej izolacji sieciowej i bardziej rygorystycznych piaskownic (sandboxes).

Firma wdrożyła również nowy system monitorowania, który jest w stanie alertować o podejrzanych zachowaniach w ciągu 30 minut od ich wykrycia. System ten wykorzystuje około 20 procent mocy obliczeniowej przeznaczonej na wnioskowanie nadzorowane, w zależności od obciążenia pracą.

Zmiany w strukturze i przyszłe plany

OpenAI planuje rozszerzyć swój Preparedness Framework oraz zwiększyć inwestycje w badania nad dopasowaniem (alignment research), które mają na celu zapewnienie, że systemy AI działają zgodnie z intencjami i wartościami ludzkimi. Co ciekawe, firma rozwiązała zespół odpowiedzialny za ten framework, przenosząc jego obowiązki na inne zespoły w organizacji.

Decyzja OpenAI o spowolnieniu rozwoju i podkreśleniu ryzyka cyberbezpieczeństwa spotkała się z pewnym sceptycyzmem. Krytycy mogą zarzucać firmie sianie paniki w celu zyskania czasu i uwagi. Jednakże, niezależna agencja rządowa AISI udokumentowała podobne szkodliwe zachowania modeli, co nadaje pewnej wiarygodności twierdzeniom OpenAI.

Kontekst i znaczenie dla branży

Spowolnienie tempa rozwoju przez OpenAI, jednego z liderów w dziedzinie sztucznej inteligencji, podkreśla rosnącą świadomość i obawy dotyczące potencjalnych zagrożeń związanych z zaawansowanymi modelami AI. Decyzja ta, choć może być postrzegana jako kontrowersyjna, wskazuje na priorytetowe traktowanie bezpieczeństwa i odpowiedzialnego rozwoju technologii. W miarę jak modele AI stają się coraz potężniejsze, kwestie etyczne i bezpieczeństwa będą odgrywać kluczową rolę w kształtowaniu przyszłości tej dynamicznie rozwijającej się branży, wymagając od firm takich jak OpenAI ciągłego dostosowywania strategii i inwestowania w mechanizmy ochronne.

Źródło: the-decoder.com