Anthropic ujawnia szczegóły działania znaków wodnych w chatbotach Claude

Anthropic opublikował w piątek wpis na blogu, w którym szczegółowo wyjaśnia, w jaki sposób będzie znakować teksty generowane przez swojego chatbota Claude. Decyzja ta jest odpowiedzią na wymogi unijnej ustawy o sztucznej inteligencji (EU AI Act), która nakłada na firmy AI obowiązek stosowania systemów umożliwiających identyfikację treści stworzonych przez sztuczną inteligencję. Wcześniejsze ogłoszenie wywołało dyskusje wśród użytkowników Claude’a, a nawet doprowadziło do deklaracji o rezygnacji z subskrypcji przez część z nich, jak donosi Business Insider.

Jak działają znaki wodne w Claude?

Anthropic wyjaśnia, że znaki wodne będą tworzone poprzez subtelne wzorce w tekście, które są niewykrywalne dla czytelnika, ale mogą być zidentyfikowane przez osoby posiadające odpowiedni klucz kodujący. Przykładem jest wybór między synonimami, takimi jak „pochmurno” i „szaro”, gdzie Claude może wprowadzić wzorzec bez wpływu na sens. Firma podkreśla, że znakowanie wodne nie wpływa na jakość generowanych treści, a tekst ze znakiem wodnym jest nieodróżnialny od tekstu bez niego.

Anthropic planuje wykorzystać podejście SynthID-Text, które zostało opracowane przez zespół Google DeepMind w 2024 roku. Firma zamierza również udostępnić interfejs API do wykrywania znaków wodnych. Ważne jest rozróżnienie między znakowaniem wodnym a tradycyjnymi metodami wykrywania AI, takimi jak te oferowane przez firmy typu Pangram, które szukają charakterystycznych „wskazówek” w stylu pisania. Anthropic zaznacza, że te dwie metody są fundamentalnie różne.

Edycja tekstu a wykrywalność znaku wodnego

Firma odniosła się również do kwestii możliwości usunięcia znaku wodnego poprzez edycję tekstu. Anthropic przyznaje, że lekkie zmiany prawdopodobnie nie usuną znaku wodnego całkowicie. Natomiast całkowite przepisanie tekstu, gdzie każde słowo zostanie zastąpione, powinno skutecznie usunąć znak wodny. W takim przypadku jednak, jak zauważa firma, można by dyskutować, czy tekst nadal jest generowany przez AI.

Jeśli chodzi o teksty jedynie korygowane lub edytowane przez Claude’a, wykrywalność znaku wodnego będzie zależeć od długości tekstu i zakresu edycji. W przypadku niewielkich zmian, gdzie większość słów pochodzi od ludzkiego autora, znak wodny będzie miał minimalny wpływ lub wcale się nie pojawi.

Specyfika znakowania kodu programistycznego

W kontekście kodu programistycznego, Anthropic przewiduje, że znaki wodne będą mniej widoczne niż w przypadku zwykłego tekstu. Wynika to z faktu, że model musi generować działający kod, co ogranicza swobodę wyboru słów. Jednakże, w obszarach, gdzie istnieje dowolność wyboru między konkretnymi słowami lub terminami, na przykład w komentarzach do kodu, znak wodny może być użyty. Firma zapewnia, że będzie to miało pomijalny wpływ na faktyczny kod.

Anthropic podkreśla również, że Claude nie będzie jedynym chatbotem AI, który będzie generował teksty ze znakami wodnymi. Inni główni twórcy modeli AI podpisali ten sam Kodeks Postępowania i również będą wdrażać własne systemy znakowania.

Wprowadzenie znaków wodnych przez Anthropic, choć budzi kontrowersje wśród niektórych użytkowników, stanowi kluczowy krok w kierunku zwiększenia przejrzystości i odpowiedzialności w dziedzinie sztucznej inteligencji. Zgodność z regulacjami takimi jak EU AI Act jest niezbędna dla budowania zaufania do technologii AI i zapewnienia, że jej rozwój odbywa się w sposób etyczny i kontrolowany, co ma fundamentalne znaczenie dla przyszłości tej branży.

Źródło: techcrunch.com