Anthropic oskarża Alibabę o największy atak klonowania modelu Claude

Firma Anthropic oskarżyła chińskiego giganta technologicznego Alibaba o przeprowadzenie największego dotychczas ataku mającego na celu sklonowanie możliwości ich zaawansowanego modelu sztucznej inteligencji, Claude. Według Anthropic, Alibaba wykorzystała blisko 25 000 fałszywych kont, aby wygenerować ponad 28,8 miliona interakcji z modelem Claude, naruszając jego warunki świadczenia usług i ograniczenia dostępu.

Szczegóły zarzutów Anthropic

Zarzuty Anthropic zostały przedstawione w liście z 10 czerwca, skierowanym do senatorów Tima Scotta i Elizabeth Warren, dzień przed posiedzeniem komisji senackiej poświęconym AI. W piśmie Anthropic ujawniło „nowe, poufne dowody największej kampanii nielegalnego pozyskiwania możliwości Claude’a, jaką kiedykolwiek zmierzyliśmy”.

Ataki miały miejsce między 22 kwietnia a 5 czerwca. „Operatorzy powiązani z Alibabą i Alibaba Qwen, laboratorium AI Alibaby” mieli rzekomo wygenerować wspomniane 28,8 miliona interakcji poprzez 25 000 fałszywych kont. Kampania ta, naruszająca warunki użytkowania Claude’a, „celowała w niektóre z najcenniejszych możliwości Claude’a, takie jak rozumowanie agentowe, inżynieria oprogramowania i zadania długoterminowe”.

Anthropic twierdzi, że Alibaba unikała wykrycia, stosując „techniki zaciemniania i sieci proxy”. Firma ostrzegła, że rosnące zapotrzebowanie Chin na niezawodne techniki zaciemniania napędza „rosnącą gospodarkę obchodzenia zabezpieczeń”, która będzie zasilać coraz szerszą sieć przyszłych ataków destylacyjnych. Zdaniem Anthropic, celem Alibaby było pozyskanie możliwości Claude’a „bez ponoszenia kosztów szkolenia i badań i rozwoju” wymaganych do stworzenia własnego modelu. Anthropic podkreśla, że takie ataki stały się „powszechne” i „przekształcają setki miliardów dolarów amerykańskich inwestycji i badań i rozwoju w masową dotację dla naszych geopolitycznych konkurentów”.

Kontekst i wcześniejsze ostrzeżenia

Kampania Alibaby miała miejsce po tym, jak Donald Trump podjął kroki w celu ograniczenia takich nielegalnych ataków destylacyjnych i obrony bezpieczeństwa narodowego USA. W kwietniu Trump oskarżył Chiny o „kradzież AI na skalę przemysłową” po tym, jak Anthropic zarzuciło chińskim firmom DeepSeek, Moonshot i MiniMax stosowanie podobnej taktyki, generując „ponad 16 milionów interakcji z Claude’em poprzez około 24 000 fałszywych kont”. Anthropic zaznaczyło, że OpenAI i Google również opublikowały wyniki badań dotyczące podobnych ataków na ich modele.

Anthropic oskarżyło Alibabę o „bezczelne” dążenie do stworzenia kopii Claude’a, najwyraźniej nie zrażając się groźbami Trumpa dotyczącymi rozprawienia się z zagranicznymi próbami kopiowania amerykańskich modeli, mimo że firma zależy od amerykańskich inwestorów. W liście Anthropic podkreśliło, że „Alibaba jest notowana na Nowojorskiej Giełdzie Papierów Wartościowych, prowadzi działalność gospodarczą w Stanach Zjednoczonych i jest odpowiedzialna przed amerykańskimi inwestorami i regulatorami”, a mimo to „działalność ta miała miejsce w tygodniach po” ostrzeżeniu Trumpa, że próby klonowania są „nie do przyjęcia”.

Alibaba, która nie skomentowała bezpośrednio zarzutów Anthropic, już wcześniej przygotowywała się na konfrontację z administracją Trumpa. We wtorek firma złożyła pozew, oskarżając administrację Trumpa o umieszczenie jej na czarnej liście po fałszywym powiązaniu z chińskim wojskiem. Alibaba dąży do usunięcia tego oznaczenia, twierdząc, że „nie ma ono podstaw faktycznych ani prawnych”. Firma podkreśliła, że „jej produkty i usługi są przeznaczone dla handlu detalicznego, logistyki i korporacyjnych technologii informatycznych — a nie broni, obrony czy wywiadu”.

Rekomendacje Anthropic i szersze konsekwencje

Anthropic jednak nie jest przekonane, że Alibaba nie współpracuje z chińskim rządem. W liście firma ostrzegła, że bez silniejszych interwencji, ataki destylacyjne „pomogą Chinom szybciej osiągnąć możliwości na poziomie Mythos Preview”.

Aby utrzymać przewagę USA nad Chinami, Anthropic zarekomendowało Kongresowi uchwalenie przepisów z trzema celami:

• Po pierwsze, należy zaktualizować przepisy antymonopolowe, aby umożliwić firmom AI wymianę informacji o ewoluujących chińskich taktykach, co pozwoliłoby zapobiegać dalszym zagrożeniom.
• Po drugie, USA potrzebują większej kontroli eksportu chipów, aby ograniczyć chiński dostęp do zaawansowanych mocy obliczeniowych, co uniemożliwiłoby im szkolenie na wynikach amerykańskich modeli. To mogłoby sprawić, że ataki destylacyjne stałyby się bezcelowe.
• Po trzecie, Kongres powinien uchwalić przepisy karzące „złe zachowania” chińskich laboratoriów, tak aby „trudniej i kosztowniej” było polegać na atakach destylacyjnych w celu rozwoju chińskich modeli. Kary mogłyby obejmować ograniczenie dostępu chińskich firm do amerykańskich modeli, zaawansowanych amerykańskich chipów lub centrów danych poza Chinami.

Anthropic odmówiło sprecyzowania, czy rzekome ataki Alibaby były wystarczająco znaczące, aby znacząco przyspieszyć chińskie możliwości AI, ani skomentowania konkretnych kroków podjętych w celu udaremnienia ataków. Rzecznik firmy wydał oświadczenie, powtarzając sentymenty wyrażone w liście do senatorów: „Wierzymy, że zwalczanie zagrożenia nielegalnej destylacji wymaga skoordynowanych działań rządu i przemysłu, i będziemy kontynuować współpracę z Kongresem i Administracją w celu utrzymania amerykańskiego przywództwa w AI”.

List Anthropic pozycjonuje firmę jako zdeterminowaną, by pomóc USA utrzymać przewagę, aby Chiny nie mogły prześcignąć amerykańskich możliwości. Firma ostrzegła, że w przeciwnym razie Chiny mogłyby zaskoczyć bezbronne USA, nagle posiadając „zaawansowane zdolności cybernetyczne do wykorzystania przeciwko rządowi USA i amerykańskim firmom oraz wykorzystywania luk w zabezpieczeniach szybciej niż było to wcześniej możliwe”.

Według Anthropic, utrzymanie jak największej przewagi USA jest kluczowe, ponieważ „im większa luka w możliwościach”, tym „więcej czasu rząd USA będzie miał na wzmocnienie cyberobrony i przyjęcie systemów AI w obszarach bezpieczeństwa narodowego” w miarę postępów chińskiej AI. Dodatkowo, Anthropic ostrzegło, że jeśli USA zignorują ataki destylacyjne, Chiny mogą wypuścić zaawansowane modele AI „ze słabymi zabezpieczeniami, które łatwo złamać, umożliwiając innym przeciwnikom USA wykorzystanie tych modeli do szerokiego zakresu działań sprzecznych z interesami USA”.

Modele Alibaby zostały pobrane ponad 700 milionów razy i znajdują się w czołówce chińskiego przemysłu AI. Oficjalna gazeta Komitetu Centralnego Komunistycznej Partii Chin, People’s Daily, niedawno wychwalała rodzinę modeli AI Qwen Alibaby jako „najpopularniejszy system AI open-source na świecie”. Chociaż firma prawdopodobnie przyjmie postawę obronną w miarę nasilania się kontroli ze strony USA, ryzykuje osłabienie swojej działalności, im dłużej będą trwały jej spory z USA. Akcje Alibaby spadły o 3 procent po upublicznieniu zarzutów Anthropic.

Chińska perspektywa na wyścig AI

Podejrzenia Anthropic, że Chiny ścigają się, aby zbudować modele dorównujące możliwościom Claude’a, zostały potwierdzone przez co najmniej jednego znaczącego chińskiego założyciela firmy technologicznej. Na konferencji poświęconej cyberbezpieczeństwu w Pekinie, założyciel 360 Security Technology, Zhou Hongyi, porównał model Mythos Anthropic do „cyber broni nuklearnej”.

Zhou powiedział publiczności, że nagły skok możliwości Mythos w znajdowaniu luk w zabezpieczeniach cybernetycznych był „przerażającą zmianą”, która skutecznie „zdemokratyzowała” cyberataki. Dla Chin brak dostępu do Mythos był znaczącą wadą. Zhou ubolewał, że Project Glasswing, który zapewnił ponad 40 amerykańskim organizacjom dostęp do Mythos Preview w celu wzmocnienia cyberobrony, wykluczył Chiny. „To oznacza, że organizacje amerykańskie mogą używać Mythos do skanowania twoich luk, ale ty nawet nie masz kwalifikacji, aby rzucić okiem na Mythos” – powiedział Zhou.

Jedyną drogą naprzód dla Chin jest stworzenie własnego modelu podobnego do Mythos, stwierdził Zhou, ostrzegając, że taka „przełomowa broń w cyberwojnie” nie może „być wyłącznie w rękach innych”. Według Zhou, Chiny muszą ścigać się, aby skopiować możliwości Mythos, aby zapewnić wzajemne zniszczenie, gdyby ich rywal próbował wykorzystać zyski za pomocą zaawansowanej AI. Uwagi Zhou były pierwszym przypadkiem, gdy prominentny chiński założyciel firmy technologicznej publicznie ostrzegł o strategicznych zagrożeniach stwarzanych przez amerykański model AI.

Obecnie, jak powiedział Zhou, chińskie firmy „znacznie odbiegają od możliwości na poziomie Mythos”. Następnie przedstawił swoją własną firmę jako rozwijającą rozwiązanie, które koncentruje się „na systemach agentów AI, które łączą istniejące modele podstawowe ze specjalistycznymi zbiorami danych bezpieczeństwa i bazami wiedzy o lukach”, zamiast „próbować dorównać USA w możliwościach modeli granicznych i mocy obliczeniowej”.

Incydent z Alibabą i stanowisko Anthropic podkreślają rosnące napięcia w globalnym wyścigu o dominację w dziedzinie sztucznej inteligencji. Wskazuje to na strategiczne znaczenie zaawansowanych modeli AI, które są postrzegane nie tylko jako narzędzia biznesowe, ale także jako kluczowe elementy bezpieczeństwa narodowego i przewagi geopolitycznej. Dalsze zacieśnianie kontroli eksportowej i próby ochrony własności intelektualnej w sektorze AI będą prawdopodobnie kształtować przyszłe relacje między mocarstwami technologicznymi, a także wpływać na rozwój globalnego ekosystemu sztucznej inteligencji.

Źródło: arstechnica.com