Anthropic wprowadza globalne znaki wodne do wszystkich treści generowanych przez Claude

Firma Anthropic, twórca zaawansowanych modeli sztucznej inteligencji Claude, ogłosiła znaczącą zmianę w sposobie oznaczania treści generowanych przez swoje systemy. Zgodnie z unijnym kodeksem postępowania dotyczącym przejrzystości treści AI, od sierpnia 2026 roku wszystkie nowe modele Claude będą wyposażone w mechanizmy znakowania, które mają zwiększyć identyfikowalność materiałów stworzonych przez sztuczną inteligencję. Nowe wymagania obejmą nie tylko Unię Europejską, ale zostaną wdrożone globalnie we wszystkich produktach Claude, w tym w API, Claude, Claude Code, Claude Cowork i Claude Tag.

Jak będą działać znaki wodne i metadane?

Anthropic planuje zastosować dwa główne typy etykietowania. Tekst generowany przez Claude będzie zawierał niewidoczny znak wodny, który, według firmy, nie wpłynie na jego znaczenie, jakość ani czytelność. Co istotne, znak wodny ma przetrwać operacje kopiowania i wklejania, a także "może przetrwać pewne edycje". Będzie on aplikowany na poziomie modelu, niezależnie od konkretnego produktu Claude używanego przez użytkownika. Istniejące modele otrzymają okres przejściowy, ale Anthropic już pracuje nad ich dostosowaniem.

Pliki, takie jak obrazy w formatach .svg, .png i .jpg, będą opatrzone cyfrowo podpisanymi metadanymi proweniencji. Będą one oparte na otwartym standardzie C2PA (Coalition for Content Provenance and Authenticity). Podpis ten ma wskazywać, że plik został przetworzony przez Claude i może ujawnić późniejsze manipulacje. Anthropic zaznacza, że znaki wodne w tekście powinny działać również poprzez partnerów chmurowych, takich jak AWS, Google Cloud i Microsoft Foundry, choć te platformy mogą nie obsługiwać podpisanych metadanych.

Firma zapowiada również udostępnienie narzędzi weryfikacyjnych, które pozwolą użytkownikom i stronom trzecim sprawdzać te etykiety, choć nie podano jeszcze konkretnej daty ich premiery. Deweloperzy integrujący Claude ze swoimi produktami będą musieli samodzielnie określić, które wymagania Artykułu 50 mają zastosowanie do ich usług.

Ograniczenia i wyzwania technologii znakowania

Anthropic otwarcie przyznaje, że technologia znakowania ma swoje ograniczenia. Wykryty znak wodny nie zawsze oznacza, że Claude jest autorem całej treści. Użytkownicy często wykorzystują Claude do korekty, tłumaczenia czy podsumowywania, co oznacza, że wynik może zawierać znak wodny, mimo że pierwotne pomysły pochodziły od człowieka.

Brak znaku wodnego również nie jest jednoznaczny. Może to wynikać z kilku przyczyn:

• Model mógł zostać uruchomiony przed wdrożeniem znakowania.
• Tekst mógł zostać intensywnie edytowany lub przetłumaczony.
• Fragment tekstu może być zbyt krótki do wiarygodnego wykrycia.
• Metadane mogły zostać usunięte w wyniku konwersji formatu lub zrzutu ekranu.

Prawdziwym testem będzie to, jak dobrze znaki wodne przetrwają edycję, zmianę formatowania i tłumaczenie. Jeśli okażą się odporne, ich wykrywanie może być bardziej wiarygodne niż w przypadku narzędzi takich jak Pangram, których zastrzeżone metody detekcji nie ujawniają, co wywołało dany wynik. Integracja z zewnętrznymi detektorami mogłaby zapewnić bardziej wiarygodny sygnał.

Kontekst rynkowy i szersze implikacje

Anthropic nie jest jedyną firmą działającą w tym obszarze. Google Deepmind udostępniło swój system znakowania wodnego SynthID, który został wbudowany w modele Gemini. SynthID subtelnie modyfikuje wartości prawdopodobieństwa podczas przewidywania tokenów, aby stworzyć znak wodny bez pogarszania jakości tekstu, ale ma problemy z tekstem edytowanym po wygenerowaniu. OpenAI od około dwóch lat posiada detektor tekstu o 99,9% dokładności, ale nie zdecydowało się na jego publiczne udostępnienie, obawiając się łatwości jego obejścia, ryzyka stygmatyzacji grup użytkowników oraz potencjalnego wpływu na własny biznes.

Decyzja Anthropic może mieć istotne konsekwencje, zwłaszcza w sektorze edukacji. Niezawodne detektory mogą prowadzić do fałszywych oskarżeń o oszustwa. Jednocześnie istnieje rosnące zapotrzebowanie na wiedzę o tym, kiedy i w jakim stopniu wykorzystano AI. Badania wskazują, że nadmierne poleganie na narzędziach AI może osłabiać krytyczne myślenie i umiejętności pisania, szczególnie u studentów traktujących je jako skrót, a nie pomoc w nauce. Problem wykracza poza środowisko akademickie, czego przykładem są oszuści zapisujący fałszywych studentów na amerykańskie uczelnie i wykorzystujący AI do zaliczania kursów i pobierania pomocy finansowej.

Popularność Claude w pracy umysłowej, zwłaszcza wśród studentów, wynika z naturalnego języka generowanego nawet przez starsze modele. Bardziej wiarygodne wykrywanie AI może sprawić, że Claude stanie się mniej atrakcyjny dla tych użytkowników, którzy obawiają się konsekwencji związanych z użyciem sztucznej inteligencji w pracy akademickiej. Wprowadzenie znaków wodnych przez Anthropic jest krokiem w kierunku większej odpowiedzialności i przejrzystości w erze AI, co może wpłynąć na sposób, w jaki treści generowane przez sztuczną inteligencję są postrzegane i wykorzystywane w przyszłości.

Źródło: the-decoder.com