USA oskarża sześć chińskich firm AI o masowe kopiowanie modeli, Chiny odpowiadają zarzutami o uprzedzenia

Amerykańskie agencje bezpieczeństwa narodowego – Agencja Bezpieczeństwa Narodowego (NSA), Agencja Bezpieczeństwa Cybernetycznego i Infrastruktury (CISA) oraz Federalne Biuro Śledcze (FBI) – wspólnie oskarżyły sześć chińskich firm AI: DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun i Z.AI, o prowadzenie zmasowanych ataków mających na celu pozyskiwanie możliwości amerykańskich modeli sztucznej inteligencji. Według agencji, działania te, trwające co najmniej od końca 2024 roku, pozwoliły chińskim firmom na znaczne skrócenie czasu rozwoju własnych modeli i obniżenie kosztów, potencjalnie oszczędzając miliardy dolarów. Amerykańskie władze sugerują, że firmy te działały „prawdopodobnie za wiedzą rządu chińskiego”.

Metody kopiowania i oskarżenia

Amerykańskie agencje twierdzą, że chińskie firmy stosują szereg zaawansowanych technik do ekstrakcji funkcjonalności z modeli takich jak Claude, GPT, Gemini i Grok. Do głównych metod należą:

• Wykorzystywanie interfejsów API modeli AI: Chińskie firmy masowo kupują fałszywe konta, które nie są zarejestrowane na legalnych użytkowników. Te „roje” fałszywych kont wykonują „wysoce skoordynowane zapytania zawierające identyczne lub podobne teksty promptów”, w liczbie od tysięcy do milionów, na podobne tematy.
• Techniki wstrzykiwania promptów (prompt injection): Używane są do „jailbreakowania” modeli, w tym tworzenia promptów zmuszających modele do ujawniania ich ukrytego „łańcucha myślenia” (chain-of-thought). Przykładem jest firma DeepSeek, która rzekomo instruowała modele, aby „wyobrażały sobie i artykułowały wewnętrzne rozumowanie stojące za ukończonymi odpowiedziami i zapisywały je krok po kroku”.

Agencje szczegółowo opisały działania niektórych firm. DeepSeek jest oskarżony o „ekstensywną złośliwą destylację” na modelach Claude, Gemini, GPT i Grok, w celu „zmniejszenia kosztów obliczeniowych i badawczych”. Miała ona pozyskiwać specjalistyczne dane treningowe oraz szereg funkcji, w tym funkcje agentowe, możliwości asystenckie, optymalizację pisania, optymalizację pytań i odpowiedzi oraz rozumowanie łańcucha myślenia. Moonshot AI stosowała podobne podejście, przełączając się między modelami wiodących firm amerykańskich w celu destylowania technik dostrajania, uczenia ze wzmocnieniem, inżynierii oprogramowania i zdolności matematycznych. Inne firmy, w tym Alibaba, MiniMax, StepFun i Z.AI, koncentrowały się na kopiowaniu konkretnych modeli od Anthropic i OpenAI.

Zalecane środki zaradcze i wyzwania

Amerykańskie agencje wezwały firmy AI do współpracy z rządem i sojusznikami w celu powstrzymania rzekomej kradzieży, która zagraża pozycji USA w wyścigu AI. W tym celu zaproponowano szereg środków zaradczych:

1. Ulepszone wykrywanie kampanii: Firmy AI muszą poprawić wykrywanie zaawansowanych kampanii, które wykorzystują dziesiątki tysięcy kont, polegając na „szarej strefie serwerów proxy” w celu omijania ograniczeń geograficznych i kierowania żądań destylacji przez wiele ścieżek. Działania te trwają od dni do miesięcy, z wolumenem zapytań od tysięcy do milionów na domenę, co znacznie przekracza legalne zastosowania badawcze lub rozwojowe.
2. Monitorowanie anomalii: Zaleca się wzmożone monitorowanie „anomalnych i złośliwych promptów, kont, sieci i zachowań”. Ponieważ chińskie firmy polegają na „masowym zakupie subskrypcji premium amerykańskich firm AI, dzielonych między zespoły deweloperów”, należy również flagować konta z podejrzanymi wskaźnikami subskrypcji do użytkowania oraz nowe konta natychmiast osiągające maksymalne wykorzystanie.
3. Wzmocnienie weryfikacji tożsamości: Firmy powinny wzmocnić weryfikację tożsamości użytkowników i dokładniej śledzić osoby korzystające z subskrypcji korporacyjnych, co jednak może budzić obawy o prywatność legalnych użytkowników.
4. Degradacja odpowiedzi modeli: Agencje zasugerowały, aby firmy zaczęły „subtelnie” zmieniać odpowiedzi modeli, gdy wykryte zostaną podejrzane ataki destylacyjne. Może to obejmować „prezentowanie poprawnych informacji z innym rozumowaniem”, dodawanie niespójności stylistycznych lub zmniejszanie głębi rozumowania. Firmy mogłyby również potajemnie przełączać złośliwe konta na mniej zdolny model, bez powiadamiania użytkowników.

Agencje przyznały, że te kroki mogą być technicznie trudne, ponieważ chińskie firmy „stosują agresywne, adaptacyjne odkrywanie w celu systematycznego identyfikowania wartościowych danych do ekstrakcji” i potrafią automatycznie wykrywać degradację wyników. Istnieje również ryzyko, że legalni użytkownicy mogą zostać nieświadomie przełączeni na gorsze modele, co może prowadzić do niezadowolenia, podobnie jak w przypadku OpenAI, które w zeszłym roku spotkało się z krytyką za domyślne kierowanie użytkowników do mniej zdolnych wariantów modeli.

Współpraca i chińska odpowiedź

Kluczowym elementem długoterminowej strategii obronnej jest współpraca między firmami AI a rządami sojuszniczymi w celu wymiany informacji na temat ewolucji ataków destylacyjnych. Brak współpracy może prowadzić do „systematycznej ekstrakcji zastrzeżonych funkcjonalności i możliwości, powodując znaczne straty ekonomiczne” dla USA.

Chiny stanowczo odrzucają oskarżenia. Mao Ning, rzeczniczka chińskiego Ministerstwa Spraw Zagranicznych, stwierdziła, że agencje USA powinny wzmacniać współpracę w dziedzinie AI, „zamiast wysuwać bezpodstawne oskarżenia”. Broniła sukcesów Chin w rozwijaniu AI jako „wyniku wysokiego poziomu samowystarczalności naukowej i technologicznej”. Wcześniej Liu Chang, rzecznik chińskiej ambasady, oskarżył administrację Trumpa o prowadzenie „kampanii oszczerstw” zakorzenionej w uprzedzeniach wobec Chin. Chińskie media, takie jak „People’s Daily”, również wskazywały, że „wiele amerykańskich firm AI wykorzystywało chińskie modele do destylacji w trakcie badań, rozwoju i szkoleń”, a także że wiele amerykańskich startupów chce dostępu do chińskich modeli AI, które są bardziej przystępne cenowo i wystarczająco zdolne do wielu zadań.

Oskarżenia te pojawiają się w kontekście planów chińskiego Ministerstwa Przemysłu i Technologii Informacyjnych, które w tym tygodniu ogłosiło plan „znacznego rozszerzenia zdolności obliczeniowych kraju w ciągu najbliższych pięciu lat”. Sprawa ma również miejsce tuż przed spotkaniem Donalda Trumpa z chińskim prezydentem Xi Jinpingiem, zaplanowanym na 24 września.

Konflikt wokół domniemanego kopiowania modeli AI podkreśla rosnące napięcia w globalnym wyścigu technologicznym, gdzie dominacja w sztucznej inteligencji jest postrzegana jako kluczowa dla przyszłej potęgi gospodarczej i militarnej. Wzajemne oskarżenia i trudności w implementacji skutecznych środków zaradczych wskazują na złożoność i wysokie stawki w ochronie własności intelektualnej w dynamicznie rozwijającej się dziedzinie AI.

Źródło: arstechnica.com