Matematyczny Instytut Bezpieczeństwa AI ma zapewnić dowody na niezawodność sztucznej inteligencji

Kanadyjski matematyk Jacob Tsimerman, niedawny laureat prestiżowego Medalu Fieldsa, ogłosił utworzenie Mathematical A.I. Safety Institute (MAISI). Ten niezależny instytut badawczy, zlokalizowany w rejonie San Francisco Bay Area, ma rozpocząć działalność w styczniu 2027 roku. Jego celem będzie skupienie od dziesięciu do trzydziestu matematyków, którzy zajmą się problemami bezpieczeństwa sztucznej inteligencji, jak donosi „New York Times”. Tsimerman, który dołączył również do zespołu ds. bezpieczeństwa w OpenAI, podkreśla, że dziedzina ta potrzebuje „znacznie, znacznie wyższego poziomu standardów bezpieczeństwa niż obecnie”.

Wyzwania w definiowaniu bezpieczeństwa AI

Obecnie, w przeciwieństwie do systemów szyfrowania, gdzie można udowodnić ich nierozerwalność bez testowania każdego możliwego ataku, w przypadku sztucznej inteligencji brakuje podobnych skrótów. Bezpieczeństwo AI ujawnia się dopiero w praktyce. Według MAISI, nie ma nawet jasnej definicji tego, co oznacza „bezpieczny” w kontekście AI, nawet w teorii. Instytut dąży do zmiany tego stanu rzeczy, chcąc umożliwić tworzenie dowodów na bezpieczeństwo systemów AI.

Cele i metody MAISI

MAISI stawia sobie za cel opracowanie metod, które pozwolą udowodnić, że system działa odpowiedzialnie i generuje poprawne wyniki. Instytut będzie również badał, jak zapewnić, że współpraca wielu agentów AI nie prowadzi do niepożądanych rezultatów. Kluczowym aspektem będzie także zdolność systemów do wytrzymywania luk w zabezpieczeniach, które nie zostały jeszcze odkryte. Jednym z potencjalnych narzędzi, które mogłyby zostać wykorzystane, są dowody z wiedzą zerową (zero-knowledge proofs). Pozwalają one systemowi udowodnić, że nie oszukuje, jednocześnie nie ujawniając tajemnic handlowych laboratoriów AI.

Powstanie MAISI i zaangażowanie tak wybitnego matematyka jak Jacob Tsimerman podkreśla rosnącą świadomość potrzeby rygorystycznego, naukowego podejścia do kwestii bezpieczeństwa sztucznej inteligencji. W miarę jak AI staje się coraz bardziej wszechobecna i wpływa na kluczowe aspekty życia, opracowanie solidnych, matematycznych podstaw dla jej niezawodności i bezpieczeństwa staje się priorytetem, mającym kluczowe znaczenie dla zaufania publicznego i dalszego rozwoju technologii.

Źródło: the-decoder.com