Model AI Anthropic, Mythos, odkrył luki w algorytmach kryptograficznych

Model sztucznej inteligencji Claude Mythos Preview firmy Anthropic zidentyfikował matematyczne słabości w algorytmach kryptograficznych, które są fundamentem cyfrowego bezpieczeństwa. Odkrycia te, choć nie wpływają na obecnie używane systemy, wskazują na potencjał AI w kwestionowaniu podstawowych założeń bezpieczeństwa internetu.

Ataki na HAWK i AES

Według Anthropic, model opracował ulepszony atak na schemat podpisu postkwantowego HAWK oraz nowy atak na zredukowaną wersję standardu Advanced Encryption Standard (AES). AES jest najszerzej stosowanym symetrycznym standardem szyfrowania danych cyfrowych na świecie, chroniącym niemal wszystkie działania online.

Anthropic podkreśla, że żadne z tych odkryć nie wpływa na systemy używane obecnie. HAWK jest jedynie kandydatem w trwającym procesie standaryzacji prowadzonym przez amerykański National Institute of Standards and Technology (NIST). Atak na AES dotyczy zmodyfikowanej wersji, która wykorzystuje 7 z 10 rund pełnego schematu. Mimo to, wyniki te pokazują, jak modele AI mogą stanowić wyzwanie dla kluczowych założeń bezpieczeństwa internetu.

HAWK jest jednym z pozostałych schematów w trzeciej rundzie konkursu NIST na dodatkowe podpisy postkwantowe, zaprojektowane tak, aby pozostały bezpieczne nawet w obliczu przyszłych komputerów kwantowych. Ludzcy eksperci recenzowali HAWK przez ponad dwa lata, ale Mythos Preview znalazł ulepszony atak w zaledwie 60 godzin.

Atak wykorzystuje wcześniej niewykrytą symetrię w matematycznej siatce, na której opiera się bezpieczeństwo HAWK. Mythos działał półautonomicznie w systemie wieloagentowym, aby to odkryć. Jeden z agentów początkowo odrzucił pomysł jako niewykonalny, ale drugi agent znalazł sposób na jego pełne wykorzystanie. Badacz, choć miał doświadczenie w teoretycznej informatyce, nie był ekspertem w kryptografii opartej na siatkach, a jego rola ograniczała się głównie do zarządzania projektem. Koszty API wyniosły około 100 000 dolarów.

Nowa metoda „Möbius Bridge”

Model niemal całkowicie samodzielnie odkrył również atak na zredukowaną wersję AES-128. Badacz stworzył środowisko, które pozwoliło Claude'owi formułować hipotezy i testować je poprzez eksperymenty. Mythos opracował następnie nową metodę „odcisków palców”, którą Anthropic nazywa „Möbius Bridge”.

Metoda ta eliminuje jedno z założeń, które musi przyjąć atakujący, i poprawia najlepsze wcześniej znane ataki od 200 do 800 razy. Początkowo model odmówił rozwiązania problemu, uznając dalsze ulepszenia za niemożliwe. Dopiero po zachęceniu badacza do poszukiwania „naprawdę nowatorskich pomysłów” Mythos zaczął stosować bardziej kreatywne podejścia.

Przez trzy dni model wygenerował kilkaset milionów tokenów i otrzymał tylko trzy bardziej merytoryczne wskazówki, głównie w celu utrzymania go na właściwym torze. Jedna z nich brzmiała: „ponownie, nie szukamy łatwych celów, chcemy prawdziwych badań, aby znaleźć naprawdę trudne odkrycia”. Ten eksperyment kosztował około 100 000 dolarów w opłatach API za około 1 miliard tokenów. Ludzcy badacze, którzy nie byli ekspertami w kryptografii, spędzili następnie kilkaset godzin na weryfikacji wyników.

Współpraca i przyszłość

Anthropic udostępnił swoje odkrycia rządowi USA i partnerom przemysłowym. Firma skoordynowała również ujawnienie słabości HAWK z autorami schematu. Model Mythos Preview pozostaje niedostępny publicznie. Wspólnie z badaczami z ETH Zurich, Uniwersytetu w Tel Awiwie i Uniwersytetu w Hajfie, Anthropic opracował również benchmark o nazwie CryptanalysisBench, który pozwala innym systematycznie oceniać zdolności kryptograficzne modeli językowych.

Odkrycia te podkreślają rosnącą rolę sztucznej inteligencji w dziedzinie cyberbezpieczeństwa. Chociaż obecne luki nie stanowią bezpośredniego zagrożenia dla istniejących systemów, demonstrują zdolność AI do identyfikowania złożonych problemów, które umykają ludzkim ekspertom. Wskazuje to na potencjalną przyszłość, w której AI będzie odgrywać kluczową rolę zarówno w obronie, jak i ataku na systemy kryptograficzne, co wymaga ciągłego monitorowania i adaptacji strategii bezpieczeństwa cyfrowego.

Źródło: the-decoder.com