Google DeepMind powołuje instytut do pogłębiania debaty o AGI

Google i Google DeepMind powołały w środę DeepMind Institute, którego celem jest rozszerzenie dyskusji na temat sztucznej inteligencji ogólnej (AGI). Instytut ma za zadanie przedstawiać różnorodne perspektywy na AGI, zarówno te pochodzące od Google i Google DeepMind, jak i od szerszej globalnej społeczności badawczej.

Cel i kierownictwo DeepMind Institute

Instytut ma służyć jako platforma do prezentowania odmiennych poglądów, które, jak zaznaczono w komunikacie, „nie zawsze będą zgodne i prawdopodobnie będą ewoluować w miarę pojawiania się nowych danych i informacji na szybko rozwijającej się granicy” technologii. Wśród dyrektorów instytutu znaleźli się Shane Legg, współzałożyciel DeepMind, James Manyika, dyrektor wykonawczy Google, oraz Demis Hassabis, przewodniczący Google DeepMind. Shane Legg pełni również funkcję redaktora zarządzającego.

Inauguracyjna kolekcja esejów

Pierwsza kolekcja czterech esejów, opublikowana wraz z uruchomieniem instytutu, porusza szereg kluczowych zagadnień związanych z AGI:

• Polityki gospodarcze dotyczące zarządzania potencjalnymi zakłóceniami wywołanymi przez AGI.
• Zachowanie czytelnego dla człowieka rozumowania modeli.
• Zasady sprzyjające rozwojowi ludzkości.
• Ramy oceny zaawansowanych modeli AI.

Jeden z esejów, autorstwa badaczy bezpieczeństwa DeepMind, Rohina Shaha i Ancy Dragan, kwestionuje nieuchronność zmniejszającej się przejrzystości AI. Autorzy argumentują, że choć nowe architektury sprawiają, że najpotężniejsze modele są trudniejsze do monitorowania, twórcy i regulatorzy powinni bezpośrednio stawić czoła kompromisom w zakresie bezpieczeństwa. Proponują oni ograniczenie „nieprzejrzystej głębi szeregowej” – czyli ilości sekwencyjnych obliczeń, które model może wykonać bez generowania czytelnego śladu rozumowania – lub wymaganie od twórców, aby mniej przejrzyste systemy pozostawały równie monitorowalne.

Propozycja Demisa Hassabisa dotycząca standardów AI

Inny esej, autorstwa Demisa Hassabisa, proponuje utworzenie w USA organu ds. standardów zaawansowanej AI, który oceniałby najbardziej zaawansowane modele. Zgodnie z jego ramami, deweloperzy początkowo dobrowolnie zgłaszaliby modele do przeglądu na 30 dni przed ich wydaniem. Po udowodnieniu skuteczności systemu oceny, zdanie jego testów mogłoby stać się wymogiem dla wdrażania zaawansowanych modeli w Stanach Zjednoczonych.

Organ ten początkowo projektowałby oceny w porozumieniu z firmami AI, ale ostatecznie opracowałby niezależne, nieujawnione oceny – nazwane w eseju testami „held-out” – aby zapobiec dostosowywaniu modeli przez laboratoria do znanych kryteriów. Hassabis stwierdził, że ramy te mogłyby zostać „zaostrzone, jeśli powaga sytuacji tego wymaga”, potencjalnie obejmując skoordynowane spowolnienie wśród deweloperów zaawansowanej AI.

Ewolucja debaty o bezpieczeństwie w branży AI

Publikacja esejów zbiega się z przesunięciem w debacie o bezpieczeństwie w branży AI – od ogólnych obaw do konkretnych propozycji dotyczących ujawniania informacji, zewnętrznej kontroli, a w przypadku niewystarczających zabezpieczeń, skoordynowanych spowolnień. To przyspieszenie nastąpiło w tym tygodniu, gdy liderzy branży poparli elementy apelu Dario Amodeiego, dyrektora generalnego Anthropic, o „spowolnienie” rozwoju zaawansowanej AI.

Utworzenie DeepMind Institute i publikacja tych esejów podkreślają rosnącą świadomość i potrzebę pogłębionej, wielostronnej dyskusji na temat przyszłości AGI. W miarę jak technologia ta staje się coraz bardziej zaawansowana i wszechobecna, kluczowe jest wypracowanie wspólnych ram etycznych, regulacyjnych i technicznych, które zapewnią jej bezpieczny i odpowiedzialny rozwój, uwzględniając różnorodne perspektywy i potencjalne wyzwania ekonomiczne oraz społeczne.

Źródło: techcrunch.com