Anthropic potajemnie śledził chińskich użytkowników Claude Code, wywołując oburzenie

Firma Anthropic, twórca modelu AI Claude, znalazła się w ogniu krytyki po ujawnieniu, że potajemnie monitorowała użytkowników swojego narzędzia Claude Code w Chinach. Incydent ten, określony przez badacza bezpieczeństwa jako „poważne naruszenie zaufania użytkowników”, jest szczególnie zaskakujący w kontekście wcześniejszego stanowiska Anthropic sprzeciwiającego się nadzorowi i jej sporu z rządem USA w tej kwestii.

Tajny tracker i jego cel

Sprawę ujawnił w ubiegłym tygodniu deweloper „Thereallo”, który podczas badania kwestii prywatności w Claude Code odkrył ukryty kod. Anthropic wykorzystywał technikę „steganografii promptów”, aby „w biały dzień” maskować kod śledzący chińskich użytkowników. Chociaż kod nie był złośliwy, przesyłał do Anthropic informacje, takie jak strefa czasowa użytkownika, dane proxy oraz potencjalne połączenie z chińskimi laboratoriami AI, które firma oskarża o ataki destylacyjne.

Inżynier Anthropic, Thariq Shihipar, potwierdził na platformie X, że tracker został dodany do Claude Code w marcu jako „eksperyment”. Według Shihipara, jego celem było „zapobieganie nadużyciom kont przez nieautoryzowanych sprzedawców i ochrona przed destylacją”. Wcześniej The Washington Post informował, że nieautoryzowani sprzedawcy oferowali dostęp do darmowych modeli za 1 dolara miesięcznie, a subskrypcje pro, kosztujące 100 dolarów, sprzedawano nawet za 12 dolarów. Shihipar dodał, że firma „od jakiegoś czasu zamierzała usunąć ten kod”, ponieważ „od tego czasu wprowadzono silniejsze środki zaradcze”.

Reakcje i szerszy kontekst

Obrońcy prywatności nie przyjęli wyjaśnień Anthropic z zadowoleniem, ostrzegając, że kod świadczy o gotowości firmy do przekraczania granic w celu inwigilacji użytkowników. Jest to szczególnie paradoksalne, biorąc pod uwagę, że Anthropic wcześniej sprzeciwiał się administracji Trumpa, odmawiając udostępnienia Claude do nadzoru amerykańskich użytkowników, a nawet pozwał Biały Dom w tej sprawie.

Incydent z trackerem jest postrzegany jako sygnał, że amerykańskie firmy, takie jak Anthropic, podejmują „coraz bardziej agresywne środki” w celu zablokowania chińskim firmom AI kopiowania ich modeli. W ciągu ostatniego roku chińskie firmy „konsekwentnie dorównywały” możliwościom modeli amerykańskich „w ciągu kilku miesięcy”. Niedawno nowy, darmowy model AI chińskiej firmy Zhipu AI okazał się lepszy w wykrywaniu luk w zabezpieczeniach komputerowych niż model Claude Opus 4.8 firmy Anthropic, wydany w maju.

Anthropic, wraz z OpenAI, wzywa USA do traktowania ataków destylacyjnych jako formy kradzieży własności intelektualnej. Destylacja, polegająca na wielokrotnym promptowaniu modeli w celu szybkiego rozwoju chińskich odpowiedników, narusza warunki użytkowania Anthropic, choć nie jest nielegalna. Senator Tim Scott (R-S.C.) zgodził się, że potrzebna jest interwencja prawna, aby zapobiec wykorzystywaniu takich ataków przez Chiny do „zdobycia przewagi technologicznej”.

Chińskie firmy i konsekwencje

Dowody na destylację amerykańskich modeli przez chińskie firmy są liczne. W lutym chińscy badacze z Uniwersytetu Pekińskiego i Chińskiej Akademii Nauk wykryli oznaki destylacji w większości chińskich modeli, głównie amerykańskich. Jeden z modeli Alibaby, Qwen AI, „wielokrotnie naśladował” Claude’a, a w intensywnych testach nawet identyfikował się jako Claude.

Alibaba, choć nie skomentowała bezpośrednio oskarżeń Anthropic, podjęła kroki, aby zdystansować się od modeli Anthropic. Firma zakazała swoim pracownikom używania Claude Code w pracy, powołując się na „ryzyko backdoorów” i dodając oprogramowanie do listy „oprogramowania wysokiego ryzyka z lukami bezpieczeństwa”. Dla Alibaby, ignorowanie determinacji Anthropic w wykrywaniu użytkowników powiązanych z chińskimi laboratoriami AI, wiąże się z ryzykiem prawnym i zgodności, w przeciwieństwie do indywidualnych użytkowników, którzy mogą łatwo ominąć blokady lokalizacji.

Znaczenie dla zaufania użytkowników i przyszłości AI

Incydent z trackerem podkreśla delikatną równowagę między bezpieczeństwem a prywatnością w dynamicznie rozwijającym się świecie AI. W obliczu rosnącej konkurencji i wyzwań związanych z kradzieżą własności intelektualnej, firmy takie jak Anthropic stoją przed trudnym zadaniem ochrony swoich innowacji. Jednak, jak zauważył deweloper Thereallo, tajne działania podważają zaufanie użytkowników, które jest kluczowe dla narzędzi deweloperskich. W dobie, gdy lojalność użytkowników zależy od analizy kosztów i korzyści, utrata zaufania może mieć poważne konsekwencje dla pozycji Anthropic na rynku, zwłaszcza w walce o utrzymanie przewagi nad chińskimi konkurentami. Transparentność w kwestii gromadzenia danych i jasne komunikowanie polityk prywatności stają się zatem nie tylko kwestią etyki, ale i strategiczną koniecznością w budowaniu długoterminowych relacji z użytkownikami. Rzecznik Anthropic podkreślił, że ataki destylacyjne chińskich laboratoriów stanowią „poważne zagrożenie dla bezpieczeństwa narodowego i podważają standardy bezpieczeństwa AI w całej branży”, co uzasadnia ich działania i współpracę z rządem w poszukiwaniu rozwiązań.

Źródło: arstechnica.com