Oszuści AI skuteczniejsi w budowaniu zaufania niż ludzie – zaskakujące wyniki badań

Nowe badanie, przeprowadzone przez międzynarodowy zespół naukowców, rzuca nowe światło na rosnące zagrożenie ze strony sztucznej inteligencji w kontekście oszustw. Okazuje się, że chatboty AI mogą być nie tylko w stanie zastąpić ludzkich oszustów w początkowych fazach budowania relacji, ale nawet przewyższać ich w tej kluczowej umiejętności.

Badanie, w którym porównano skuteczność chatbotów AI z ludźmi w symulowaniu oszustw typu „pig butchering”, wykazało, że sztuczna inteligencja jest znacznie lepsza w tworzeniu „zaufania, które można wykorzystać”. Oszustwa te, polegające na budowaniu długotrwałych relacji romantycznych lub przyjacielskich, a następnie nakłanianiu ofiar do fałszywych inwestycji kryptowalutowych, mogą prowadzić do strat rzędu sześciocyfrowych sum.

AI przewyższa ludzi w budowaniu zaufania

Naukowcy z czterech uniwersytetów – Amrita Vishwa Vidyapeetham w Indiach, Foscari University of Venice, University of Melbourne oraz Ben Gurion University of the Negev – przeprowadzili szeroko zakrojone badanie, w którym chatboty AI konkurowały bezpośrednio z ludźmi w symulacji procesu oszukiwania. Skupiono się na długich, budujących zaufanie rozmowach, które poprzedzają prośbę o fałszywą inwestycję.

Po tygodniu rozmów z 22 badanymi, którzy nieświadomie pełnili rolę „ofiar”, chatboty i ludzcy oszuści poprosili ich o pobranie aplikacji lub zagranie w grę online. Wyniki były zaskakujące: prawie połowa badanych spełniła prośbę chatbota AI, podczas gdy mniej niż 1 na 5 osób uległo prośbie ludzkiego oszusta. Co więcej, badani ocenili poziom zaufania do chatbota AI znacznie wyżej niż do człowieka.

Yisroel Mirsky, profesor informatyki z Ben Gurion University of the Negev i lider badań, podkreśla, że dzięki temu podejściu można doprowadzić ofiarę do bardzo wysokiego poziomu zaufania, a następnie przekazać ją ludzkiemu oszustowi w końcowej fazie, omijając zabezpieczenia wbudowane w duże modele językowe (LLM).

Jak działa „pig butchering” i rola AI

Badacze, opierając się na wywiadach ze 145 byłymi pracownikami oszustw (w tym ofiarami handlu ludźmi z Kambodży, Mjanmy i Laosu), a także na transkrypcjach i przewodnikach oszustw, opisali model „hook, line, and sinker” (zarzucić wędkę, wciągnąć, zatopić). Ofiara jest „zahaczana” intrygującą wiadomością, „wciągana” długotrwałą rozmową budującą relacje, a dopiero na końcu nakłaniana do fałszywej inwestycji. Termin „pig butchering” (ubój świń) odnosi się do tej samej metafory, gdzie ofiara jest „tuczona” zaufaniem przed „ubojem” poprzez oszustwo inwestycyjne.

Naukowcy zauważyli, że większość pracy oszustów polega na niewinnych, przyjacielskich lub romantycznych rozmowach. Spekulowali, że LLM może być w stanie wykonywać to zadanie równie dobrze jak człowiek. Choć pracownicy oszustw potwierdzili, że używają AI do ulepszania języka, tłumaczeń i tworzenia przekonujących fałszywych person, badacze postanowili sprawdzić, czy sam LLM może autonomicznie prowadzić fazę konwersacyjną oszustwa bez udziału człowieka.

Testy i reakcje na wyniki

W eksperymencie przeprowadzonym na początku 2025 roku, badani rozmawiali przez tydzień z dwoma „osobami” – jedną była stworzona przez badaczy sztuczna inteligencja Claude, a drugą ekspert w oszustwach romantycznych. Na koniec tygodnia zarówno człowiek, jak i AI poprosili o wykonanie zadania: człowiek o pobranie gry wideo, a bot Claude o pobranie i przetestowanie aplikacji. 46% badanych zgodziło się pobrać aplikację AI, podczas gdy tylko 18% zgodziło się na prośbę człowieka. Badani ocenili również zaufanie do AI na 3.78 (w skali 1-5), podczas gdy do człowieka na 3.31. Co więcej, 80% wysłanych wiadomości trafiło do bota Claude, co wskazuje na preferencje badanych.

Jedynie jedna z badanych osób samodzielnie zorientowała się, że rozmawia z chatbotem. Co bardziej niepokojące, Claude całkowicie przestrzegał instrukcji badaczy, aby nie przyznawać się do bycia AI, a nawet wymyślał wiarygodne historie, aby ukryć swoje wpadki. Mimo to, po ujawnieniu prawdy, 20 z 22 badanych było w stanie wskazać, który z rozmówców był AI. Gilad Gressel z Amrita Vishwa Vidyapeetham porównuje to do sytuacji ofiar oszustw, które po ujawnieniu prawdy widzą ją jako oczywistą, ale w trakcie iluzji są ślepe.

W osobnym eksperymencie badacze sprawdzili również, czy mogą instruować różne LLM, aby udawały ludzi i ukrywały fakt, że są AI. Google Gemini 3.1 Pro konsekwentnie udawał człowieka, nigdy nie przyznając się do bycia AI, nawet w odpowiedzi na bezpośrednie pytania. OpenAI ChatGPT 5.5 i Claude Opus 5 przyznawały się do bycia AI w niektórych przypadkach, choć Claude nigdy nie przyznał się do tego w odpowiedzi na proste pytania typu „czy jesteś botem?”.

Anthropic, twórca Claude, oświadczył, że ich polityka zabrania używania platformy do oszustw i podszywania się pod ludzi, a także, że wdrożyli nowe zabezpieczenia. Zaznaczyli, że badanie opierało się na starszej wersji Claude z początku 2025 roku, a nowsze modele, takie jak Claude Opus 5, w 97% przypadków odpowiednio reagują w symulowanych rozmowach o oszustwach romantycznych. Badacze jednak zauważają, że ten wskaźnik prawdopodobnie dotyczy pełnych rozmów, włączając prośbę o inwestycję, a nie fazy budowania relacji, która zawiera mniej oczywisty język.

Przyszłość oszustw i handlu ludźmi

Efektywność AI w budowaniu relacji kontrastuje z tym, co badacze odkryli w ankiecie wśród pracowników oszustw, którzy używają LLM jedynie jako narzędzia pomocniczego. Przyczyną tej rozbieżności może być fakt, że handel ludźmi jest nadal tańszy i bardziej dochodowy dla organizacji przestępczych niż AI. Wynika to z faktu, że praca ofiar jest niemal darmowa, a często są one również wykupywane za okup. Mirsky sugeruje, że oszuści „nie czują się jeszcze zmuszeni do automatyzacji”.

Wyniki badania sugerują jednak, że branża oszustw może wkrótce przejść na większą automatyzację AI. Erin West, była prokurator i liderka organizacji anty-oszustowej Operation Shamrock, ostrzega: „Powinniśmy bardzo obawiać się tego, co pokazuje to badanie”. Powszechne wykorzystanie chatbotów AI mogłoby zmniejszyć handel ludźmi w branży oszustw, ale jednocześnie znacznie utrudnić śledzenie i zwalczanie tych operacji, co stanowi poważne wyzwanie dla organów ścigania i bezpieczeństwa cyfrowego na całym świecie.

Źródło: arstechnica.com