OpenAI rozwiązuje zespół ds. katastrofalnych zagrożeń AI, zadania przejmują inne działy

OpenAI, czołowa firma w dziedzinie sztucznej inteligencji, rozwiązała swój zespół „Preparedness”, którego głównym zadaniem była ocena, czy rozwijane przez firmę modele AI mogą stwarzać poważne lub katastrofalne zagrożenia. Informację tę podał „Financial Times”, powołując się na wewnętrzne źródła. Prace zespołu, koncentrujące się na ryzykach biologicznych i cybernetycznych, zostały rozdzielone i przypisane do już istniejących grup w organizacji.

Reorganizacja i nowe priorytety bezpieczeństwa

Dylan Scandinaro, były lider rozwiązanej jednostki, obecnie skupia się na ryzykach bezpieczeństwa wynikających z „rekurencyjnie samodoskonalącej się AI”, czyli systemów zdolnych do samodzielnej optymalizacji i trenowania innych modeli. Współzałożyciel OpenAI, Greg Brockman, oświadczył, że firma zintegrowała prace nad bezpieczeństwem znacznie ściślej z procesem rozwoju modeli. Ma to oznaczać, że kwestie bezpieczeństwa są teraz uwzględniane na wcześniejszych etapach projektowania i wdrażania AI.

Wzrost niepokoju wśród pracowników

Decyzja o rozwiązaniu zespołu zbiegła się w czasie z odejściem kilku kluczowych pracowników odpowiedzialnych za bezpieczeństwo, w tym Chloe Bakalar, dyrektor ds. etyki, oraz Joshuy Achiama. Wewnętrznie narasta niepokój. Jedno ze źródeł opisało sytuację jako „bulgoczące poczucie odpowiedzialności i strachu”, że OpenAI nie robi wystarczająco dużo w kwestii bezpieczeństwa. Pracownicy wyrażali swoje obawy również publicznie, szczególnie po incydencie z autonomicznym hakowaniem z udziałem Hugging Face. Jeden z pracowników wyraził nadzieję, że OpenAI potraktuje to zdarzenie jako „strzał ostrzegawczy”.

Rozwiązanie zespołu „Preparedness” i reorganizacja działań związanych z bezpieczeństwem w OpenAI wskazują na ewolucję podejścia firmy do zarządzania ryzykiem. Chociaż firma deklaruje głębszą integrację kwestii bezpieczeństwa z rozwojem produktów, rosnący niepokój wśród pracowników i odejścia kluczowych specjalistów sugerują, że droga do pełnego zaufania w tej kwestii może być długa. Sposób, w jaki OpenAI poradzi sobie z wyzwaniami związanymi z rekurencyjnie samodoskonalącą się AI i innymi zaawansowanymi ryzykami, będzie miał kluczowe znaczenie dla przyszłości bezpiecznego rozwoju sztucznej inteligencji.

Źródło: the-decoder.com