Meta wyświetlała reklamy aplikacji do tworzenia deepfake'ów z polityczkami

Meta, właściciel platform takich jak Facebook i Instagram, wyświetlała reklamy narzędzia do generowania pornografii AI, które zachęcało użytkowników do tworzenia deepfake'ów przypominających amerykańskie polityczki. Działo się to pomimo jasno określonych zasad firmy, które zabraniają reklam zawierających materiały o charakterze seksualnym. Jest to kolejny przypadek, w którym Meta nie zdołała zablokować reklam promujących narzędzia do tworzenia intymnych obrazów bez zgody osób przedstawionych.

Aplikacja Kromix i jej kontrowersyjne funkcje

Narzędzie, nazwane Kromix, było promowane jako „stylizator obrazów AI”. W jednej z reklam wideo, którą widział portal WIRED, lektor zachwalał aplikację, twierdząc, że nie ma ona „żadnych ograniczeń”, a „wszystkie postacie są prawdziwymi ludźmi”, opisując ją jako „AI, której faktycznie używają mężczyźni”. Inna reklama przedstawiała kobietę łudząco podobną do znanej amerykańskiej polityczki, stojącą przed flagą USA i flagą prezydenta USA, z podpisem „A co, gdyby się poruszyła?”. Następnie kobieta puszcza oko, po czym reklama przechodzi do sceny, w której kobieta o tej samej twarzy występuje w filmie pornograficznym.

Aplikacja Kromix, dostępna wcześniej w Apple App Store, zachęcała płatnych użytkowników do przesyłania zdjęć, które mogły być wykorzystane w scenariuszach takich jak „gwałt w sypialni” i „miłość Disneya”. W filmach dostępnych w aplikacji pojawiały się również pornograficzne deepfake'i kobiet w kostiumach Spider-Mana. Apple usunęło Kromix z App Store po zapytaniu ze strony WIRED, twierdząc, że aplikacja dodała zabronione treści i funkcje po początkowej recenzji. Rzecznik Apple podkreślił, że firma zawsze surowo zabraniała aplikacji do generowania, rozpowszechniania lub konsumowania pornografii, a aplikacje do „rozbierania” są sprzeczne z ich wytycznymi.

Mechanizmy Meta i walka z deepfake'ami

Reklamy Kromix, zgodnie z biblioteką reklam Meta, były kierowane wyłącznie do użytkowników płci męskiej i zawierały hasło „Uwolnij magię AI nowej generacji”. Zostały usunięte po tym, jak WIRED zapytał o nie firmę. Łącznie konto związane z kampanią wyświetliło 32 reklamy, które działały od pięciu do 46 godzin. Większość z nich uzyskała mniej niż 10 wyświetleń.

Katie Paul, dyrektor Tech Transparency Project, która odkryła reklamy, zauważyła, że wszystkie reklamy dotyczące „rozbierania” kobiet, które widziała jej organizacja, miały charakter seksualizujący i umieszczały kobiety w pornografii generowanej przez AI. Podkreśliła, że budzi to pytania o to, jak Meta zamierza radzić sobie z tego rodzaju treściami, zwłaszcza gdy dotyczą one polityczek.

Polityczki i urzędniczki, w przeważającej mierze kobiety, od lat są celem deepfake'ów bez zgody. W styczniu, gdy Grok został użyty do stworzenia około 3 milionów seksualizowanych obrazów kobiet i dziewcząt, urzędniczki w Szwecji, Anglii i Irlandii Północnej były celem osób korzystających z tej technologii, często wykorzystując oficjalne zdjęcia jako punkt wyjścia.

Meta twierdzi, że przed publikacją każda reklama jest „recenzowana” pod kątem zgodności z jej zasadami, a system recenzji opiera się głównie na zautomatyzowanych narzędziach. Firma ma politykę zabraniającą reklam zawierających treści seksualne, w tym nagość i treści sugerujące aktywność seksualną. Mimo to, reklamy aplikacji do „rozbierania” pojawiają się na platformach Meta często. Firma usunęła 344 000 takich reklam między listopadem ubiegłego roku a styczniem i podjęła kroki prawne przeciwko co najmniej jednej firmie promującej takie usługi.

Cindy Southworth, szefowa ds. bezpieczeństwa kobiet w Meta, stwierdziła, że wykorzystywanie seksualne, w tym promowanie aplikacji do „rozbierania”, jest przerażające, a firma agresywnie z tym walczy. Przyznała, że jest to „wysoce antagonistyczna przestrzeń, w której źli aktorzy stale ewoluują swoje taktyki”. Dodała, że Meta nieustannie wzmacnia swoje zabezpieczenia, usuwając setki tysięcy naruszających zasady reklam i wprowadzając nowe technologie AI do ich wykrywania.

Wyzwania w walce z ewoluującymi taktykami

Wiele reklam wideo miało okładki przedstawiające plaże, góry lub wodospady, co miało ukryć pornograficzny charakter treści. Southworth przyznała, że jest to przykład taktyki stosowanej przez reklamodawców w celu uniknięcia wykrycia. Dodała, że Meta jest świadoma tej taktyki i blokuje oraz usuwa wiele naruszających zasady reklam, mimo prób ukrycia treści. Podkreśliła jednak, że „żaden system nie jest doskonały”, a firma nadal bada, dlaczego te reklamy zdołały ominąć ich systemy.

Niedawno Tech Transparency Project odkrył ponad 50 reklam na platformach Meta, które zawierały materiały przedstawiające seksualne wykorzystywanie dzieci generowane przez AI. Niektóre z nich polegały na „zamianie twarzy” dziecka w filmie, w którym wykonywało ono akt seksualny. Te reklamy, wyświetlane między listopadem 2025 a sierpniem, dotarły do tysięcy osób w USA, Wielkiej Brytanii i kilkunastu krajach europejskich. Po kontakcie WIRED z Meta, reklamy zostały usunięte z biblioteki reklam firmy.

Paul krytykuje Meta za coraz większe poleganie na AI do weryfikacji reklam, jednocześnie zwalniając moderatorów. Uważa, że „reklamy są głównym produktem Meta, a kontrola jakości wydaje się zerowa”. Podkreśla, że Meta publicznie chwali się zaawansowaniem swojej AI, jednocześnie przyznając, że jej systemy nie są doskonałe.

Problem deepfake'ów i niechcianych treści seksualnych generowanych przez AI stanowi poważne wyzwanie dla platform technologicznych. Pomimo deklarowanych polityk i inwestycji w sztuczną inteligencję do wykrywania takich treści, cyberprzestępcy i nieuczciwi reklamodawcy wciąż znajdują sposoby na omijanie zabezpieczeń. Sytuacja ta podkreśla potrzebę ciągłego doskonalenia systemów moderacji, zarówno technologicznych, jak i ludzkich, aby skutecznie chronić użytkowników, zwłaszcza osoby publiczne, przed szkodliwymi treściami i nadużyciami w erze AI.

Źródło: arstechnica.com