Czym są deepfake i jak je rozpoznać?

Deepfake to zaawansowane cyfrowo zmanipulowane treści multimedialne – najczęściej wideo lub audio – tworzone przy użyciu technik sztucznej inteligencji, głównie uczenia maszynowego. Ich celem jest przedstawienie osoby mówiącej lub wykonującej czynności, których w rzeczywistości nigdy nie robiła, w sposób niezwykle realistyczny i trudny do odróżnienia od prawdy. Nazwa "deepfake" pochodzi od połączenia dwóch słów: "deep learning" (głębokie uczenie) i "fake" (fałszywy).

Technologia deepfake pozwala na podmianę twarzy jednej osoby na twarz innej, manipulowanie mimiką, a także generowanie syntetycznego głosu, który naśladuje barwę i intonację konkretnej osoby. Dzięki temu możliwe jest tworzenie filmów, na których znane osobistości, politycy czy nawet osoby prywatne wypowiadają słowa, których nigdy nie powiedziały, lub wykonują działania, których nigdy nie podjęły.

Jak powstają deepfake?

Tworzenie deepfake opiera się na zaawansowanych algorytmach uczenia maszynowego, przede wszystkim na sieciach generatywnych (Generative Adversarial Networks – GAN) lub autoenkoderach. Proces ten zazwyczaj składa się z kilku etapów:

Zbieranie danych treningowych

Pierwszym krokiem jest zebranie dużej ilości danych źródłowych. Aby stworzyć deepfake wideo, potrzebne są liczne nagrania wideo lub zdjęcia osoby, której wizerunek ma zostać zmanipulowany (osoba docelowa), oraz nagrania osoby, której ruchy i mimika mają być nałożone na osobę docelową (osoba źródłowa). Im więcej materiału treningowego, tym lepsza jakość i realizm finalnego deepfake'a. Algorytmy uczą się cech charakterystycznych twarzy, mimiki, ruchów głowy, a także barwy głosu.

Trening modelu AI

Następnie zebrane dane są wykorzystywane do trenowania modelu AI. W przypadku GANów, sieć składa się z dwóch głównych komponentów:

• Generator: Tworzy fałszywe obrazy lub dźwięki, starając się, aby były jak najbardziej realistyczne.
• Dyskryminator: Ocenia, czy dany obraz lub dźwięk jest prawdziwy (pochodzi z danych treningowych) czy fałszywy (został wygenerowany przez generator). Jego celem jest odróżnienie prawdy od fałszu.

Oba komponenty trenują się nawzajem w ciągłej "grze". Generator uczy się tworzyć coraz bardziej przekonujące fałszerstwa, a dyskryminator uczy się je coraz skuteczniej rozpoznawać. Ten iteracyjny proces prowadzi do powstania modelu, który jest w stanie generować bardzo realistyczne, syntetyczne treści.

Generowanie deepfake'a

Po wytrenowaniu modelu, można go użyć do stworzenia deepfake'a. Na przykład, w wideo, algorytm analizuje mimikę i ruchy ust osoby źródłowej, a następnie nakłada je na twarz osoby docelowej, synchronizując ruchy warg z syntetycznym głosem. Cały proces jest bardzo złożony i wymaga dużej mocy obliczeniowej.

Zagrożenia związane z deepfake

Technologia deepfake, choć fascynująca, niesie ze sobą poważne zagrożenia, które mają wpływ na społeczeństwo, politykę i życie prywatne jednostek:

• Dezinformacja i propaganda: Deepfake mogą być wykorzystywane do tworzenia fałszywych wiadomości, manipulowania opinią publiczną, szerzenia propagandy politycznej lub wpływania na wybory. Fałszywe nagrania polityków wypowiadających kontrowersyjne słowa mogą wywołać kryzysy polityczne lub społeczne.
• Oszustwa i wyłudzenia: Przestępcy mogą używać deepfake do podszywania się pod inne osoby, np. dyrektorów firm, w celu wyłudzenia pieniędzy lub poufnych informacji. Znane są przypadki, gdzie syntetyczny głos naśladował głos prezesa firmy, nakłaniając pracownika do wykonania przelewu.
• Szkody reputacyjne i szantaż: Deepfake mogą być używane do tworzenia kompromitujących materiałów wideo lub audio, które mają na celu zniszczenie reputacji osoby publicznej lub prywatnej. Mogą być również narzędziem do szantażu i cyberprzemocy.
• Naruszenie prywatności i wykorzystanie wizerunku: Osoby, których wizerunek został wykorzystany bez zgody, stają się ofiarami naruszenia prywatności. Wiele deepfake'ów ma charakter pornograficzny, gdzie twarze osób są nakładane na ciała aktorów, co jest formą poważnego wykorzystania i nękania.
• Podważanie zaufania do mediów: Rosnąca liczba deepfake'ów sprawia, że coraz trudniej jest odróżnić prawdę od fałszu, co może prowadzić do ogólnego spadku zaufania do tradycyjnych mediów i dziennikarstwa.

Praktyczne wskazówki jak wykrywać deepfake

Rozpoznawanie deepfake staje się coraz trudniejsze, ale istnieją pewne cechy i techniki, na które warto zwrócić uwagę:

1. Nienaturalne ruchy i mimika

• Miganie: Często w deepfake'ach występuje nienaturalna częstotliwość mrugania lub jego brak. Czasami powieki mogą wyglądać na nienaturalnie zsynchronizowane lub brakować im naturalnej asymetrii.
• Ruchy ust i synchronizacja z dźwiękiem: Zwróć uwagę, czy ruchy ust idealnie pasują do wypowiadanych słów. Czasami synchronizacja może być niedoskonała, a usta mogą wyglądać nienaturalnie, jakby były nałożone.
• Mimika twarzy: Emocje mogą być nienaturalne, zbyt intensywne lub niezgodne z kontekstem. Czasami tylko część twarzy (np. usta) porusza się, podczas gdy reszta pozostaje nieruchoma.
• Ruchy głowy i ciała: Deepfake często skupia się na twarzy, dlatego ruchy głowy i reszty ciała mogą być sztywne, powtarzalne lub niespójne z mimiką.

2. Artefakty graficzne i błędy wizualne

• Niespójne oświetlenie: Oświetlenie na twarzy osoby może nie pasować do oświetlenia tła lub zmieniać się w nienaturalny sposób.
• Rozmycie lub pikselizacja: Krawędzie twarzy, włosów lub innych elementów mogą być rozmyte, nienaturalnie wygładzone lub zawierać artefakty kompresji, które nie występują w reszcie obrazu.
• Niespójności w tle: Tło może być dziwnie zniekształcone, powtarzalne lub zawierać błędy, które wskazują na manipulację.
• Dziwne cienie: Cienie mogą być nieobecne, nienaturalnie umiejscowione lub niepasujące do źródła światła.
• Oczy: Odbicia w oczach mogą być nienaturalne, brakować im realizmu, a źrenice mogą być dziwnie powiększone lub zmniejszone.

3. Niespójności dźwiękowe

• Nienaturalna barwa głosu: Głos może brzmieć syntetycznie, metalicznie, zbyt płasko lub pozbawiony naturalnych intonacji i emocji.
• Szumy i zakłócenia: Mogą pojawić się dziwne szumy, trzaski lub inne artefakty dźwiękowe, które nie pasują do otoczenia.
• Brak spójności z otoczeniem: Głos może brzmieć, jakby był nagrany w innym miejscu niż wideo, np. brak echa w dużym pomieszczeniu lub brak szumów tła w ruchliwym otoczeniu.

4. Kontekst i źródło

• Sprawdź źródło: Zawsze weryfikuj, skąd pochodzi materiał. Czy jest to wiarygodne źródło informacji? Czy zostało opublikowane przez oficjalne kanały?
• Wyszukiwanie wsteczne obrazem/wideo: Użyj narzędzi do wyszukiwania wstecznego obrazem (np. Google Images, TinEye) lub fragmentów wideo, aby sprawdzić, czy materiał nie pojawił się wcześniej w innym kontekście lub czy nie został już zdemaskowany jako fałszywy.
• Porównaj z innymi materiałami: Jeśli masz wątpliwości co do wizerunku konkretnej osoby, porównaj jej wygląd, mimikę i głos z innymi znanymi, autentycznymi nagraniami.
• Zbyt sensacyjne treści: Bądź sceptyczny wobec materiałów, które wydają się zbyt sensacyjne, niewiarygodne lub idealnie pasujące do czyjejś narracji. Deepfake często są tworzone w celu wywołania silnych emocji.

5. Narzędzia do wykrywania deepfake

Rozwijane są specjalistyczne narzędzia i algorytmy oparte na AI, które pomagają w wykrywaniu deepfake'ów. Analizują one metadane, artefakty kompresji, niespójności w pikselach i inne subtelne sygnały, które są trudne do zauważenia przez ludzkie oko. Chociaż nie są one jeszcze doskonałe, stanowią cenne wsparcie w walce z dezinformacją. Przykładem są projekty takie jak Deepfake Detection Challenge organizowane przez Facebooka, czy narzędzia rozwijane przez uniwersytety i firmy technologiczne.

Podsumowując, świadomość istnienia deepfake'ów i znajomość ich charakterystycznych cech to klucz do zachowania ostrożności w cyfrowym świecie. Krytyczne myślenie i weryfikacja źródeł stają się coraz ważniejsze w dobie zaawansowanych manipulacji multimedialnych.