Niewidzialne znaki wodne w Claude budzą kontrowersje wśród użytkowników

Firma Anthropic podjęła decyzję o wprowadzeniu niewidzialnych znaków wodnych do treści generowanych przez swojego chatbota Claude. Oznacza to, że w teksty stworzone przez AI wbudowywany jest ukryty kod, który identyfikuje je jako dzieło sztucznej inteligencji. Choć ruch ten ma na celu spełnienie wymogów unijnego aktu o sztucznej inteligencji (EU AI Act’s Transparency Code), nakładającego na firmy technologiczne obowiązek oznaczania treści generowanych lub edytowanych przez AI, to spotkał się z mieszanymi reakcjami użytkowników.

Burza na Reddicie

Decyzja Anthropic wywołała falę dyskusji, zwłaszcza na platformie Reddit, gdzie pojawiły się głosy niezadowolenia. Jeden z użytkowników, posługujący się nickiem visionode (konto założone zaledwie trzy tygodnie wcześniej), określił nowy system znakowania jako „drakoński spisek” mający na celu „pokrzywdzenie niewinnych użytkowników chatbotów na całym świecie”.

Visionode argumentował, że choć zaawansowani użytkownicy mogą ukryć ślady użycia AI poprzez parafrazowanie lub przetwarzanie treści w innych usługach, to przeciętny użytkownik Claude'a zostanie zdemaskowany. W swoim poście wskazał na konkretne przykłady:

• Studenta, który użył Claude'a do przeorganizowania akapitu.
• Dziennikarza, który poprosił AI o podsumowanie dwustustronicowego transkryptu.
• Pisarza, który szukał synonimów w obliczu blokady twórczej.

Według visionode'a, te osoby „wyjdą z procesu z cyfrowym tatuażem na czole”.

Kontrargumenty i etyka użycia AI

Krytyka visionode'a spotkała się z ripostą innych użytkowników oraz autora artykułu. Zauważono, że dziennikarz podsumowujący transkrypt za pomocą AI nie powinien mieć problemu ze znakiem wodnym, chyba że zamierza dosłownie wkleić to podsumowanie do swojego artykułu, co jest uznawane za nieetyczne. Podobnie nieetyczne jest kopiowanie i wklejanie treści wygenerowanych przez Claude'a do eseju studenckiego. Inni Redditorzy również nie poparli oburzenia visionode'a, komentując krótko: „Spójrzcie na tego gościa” lub sugerując „głęboki oddech”.

Inny niezadowolony użytkownik nazwał znaki wodne „nieetycznymi” i „obrzydliwymi”, twierdząc, że to on wykonał większość pracy, a chatbot był jedynie „narzędziem” ułatwiającym trudny proces. Zadał pytanie: „Jeśli Claude zacznie znakować kod lub cokolwiek innego, co generuje, za co dokładnie przypisuje sobie zasługi?”. Na to również pojawiły się odpowiedzi, że system nie przypisuje sobie zasług, lecz ma na celu wykrywanie treści generowanych przez AI ze względu na ryzyka, jakie mogą one stwarzać w różnych sytuacjach. Jeden z użytkowników ironicznie skomentował: „Brat nie potrafił nawet narzekać na Claude'a, nie używając Claude'a do napisania tego”.

Nuansowane argumenty i ogólne poparcie

Nie wszyscy krytycy skupiali się na narracji ofiary. Niektórzy przedstawili bardziej zniuansowane argumenty. Jeden z użytkowników zwrócił uwagę na hipokryzję w znakowaniu produktu redakcyjnego, który sam powstał w wyniku przetworzenia cudzych prac. Stwierdził, że to „bardzo złowieszczy kierunek” i nazwał ironią sytuację, w której AI znakuje pracę użytkownika, biorąc pod uwagę sposób pozyskiwania danych treningowych przez wiele zaawansowanych modeli.

Mimo tych głosów, ogólny trend wśród użytkowników wskazuje na poparcie dla systemu znakowania wodnego jako rozsądnego sposobu śledzenia materiałów generowanych algorytmicznie. Jak ujął to jeden z użytkowników na innym wątku: „Dosłownie nie ma dobrego argumentu, dlaczego to nie jest dobry pomysł. Jedynym powodem, dla którego ktoś by tego nie chciał, jest chęć okłamywania ludzi”.

Wprowadzenie znaków wodnych przez Anthropic, choć wymuszone regulacjami, otwiera szerszą dyskusję na temat etyki i odpowiedzialności w erze sztucznej inteligencji. Z jednej strony, transparentność w identyfikacji treści generowanych przez AI jest kluczowa dla budowania zaufania i zapobiegania dezinformacji. Z drugiej strony, rodzi pytania o granice autonomii twórczej użytkowników i potencjalne konsekwencje dla tych, którzy w sposób nieetyczny wykorzystują narzędzia AI. To wyzwanie, z którym branża AI będzie musiała się mierzyć w miarę dalszego rozwoju technologii.

Źródło: techcrunch.com