Meta wyświetlała reklamy aplikacji AI tworzących materiały CSAM z wizerunkami prawdziwych nastolatek

Meta, właściciel platform Facebook i Instagram, znalazła się w ogniu krytyki po ujawnieniu, że na jej platformach wyświetlano setki reklam aplikacji wykorzystujących sztuczną inteligencję do tworzenia materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM). Reklamy te, często z hasłami takimi jak „To jest AI, której używają mężczyźni”, promowały aplikacje zdolne do cyfrowego zmieniania zdjęć nieletnich, w tym wizerunków prawdziwych nastolatek, w treści o charakterze seksualnym.

Skala problemu i szokujące przykłady

Raport opublikowany przez Tech Transparency Project (TTP) we wtorek ujawnił, że Meta nie wykryła 332 reklam zawierających CSAM w bieżącym roku. Zdecydowana większość tych reklam promowała chińskie aplikacje AI, w tym tzw. aplikacje „nudify”, które ułatwiają tworzenie zmanipulowanych obrazów dzieci. TTP zidentyfikowało, że wiele z tych reklam wykorzystywało zdjęcia prawdziwych dzieci, w tym:

• fotografię młodej członkini europejskiej rodziny królewskiej, która została „animowana w wideo przedstawiające akt seksualny”.
• zdjęcia 14-letniej influencerki z Instagrama, przedstawiające ją w stroju sportowym, które zostały przekształcone w „wideo przedstawiające akt oralny”.
• serię zdjęć stockowych przedstawiających „dziewczynkę w różowym stroju sportowym z warkoczykami”, która została zmieniona w wideo, gdzie „wygląda na przestraszoną, gdy jest molestowana przez dorosłego mężczyznę”.

Departament Sprawiedliwości USA jasno określił, że materiały CSAM generowane przez AI są tak samo szkodliwe jak te prawdziwe, co oznacza, że te reklamy mogą naruszać federalne przepisy dotyczące pornografii dziecięcej. Reklamy często zawierały kuszące hasła, takie jak „Mogę pokazać ci więcej” czy „nasze AI przekształca twoje ukryte pragnienia w hipnotyzujące filmy. Mroczne, uwodzicielskie, niezapomniane”. Jedna z reklam otwarcie głosiła: „nie ma żadnych ograniczeń. Wszystkie postacie to prawdziwi ludzie i jest wiele opcji. To jest AI, której używają mężczyźni”.

Nieskuteczne działania Meta i powtarzające się naruszenia

Co bardziej niepokojące, odkrycia TTP pojawiły się po tym, jak grupa, we współpracy z Wired, już w sierpniu zgłosiła wcześniejszą partię 53 reklam. Wówczas Meta zapewniała, że „niedawno wprowadziła nowe systemy w celu lepszego wykrywania wykorzystywania dzieci”. Jednak TTP „znalazło setki nowych reklam CSAM, które pojawiły się po tym, jak Meta chwaliła się swoją nową technologią”. Analiza Wired potwierdziła obecność „setek reklam zawierających treści jawne, z podobnym językiem do tych znalezionych przez badaczy TTP”.

Problem wykracza poza CSAM. Wired zidentyfikowało również „setki innych powiązanych reklam 'nudyfikacji' zawierających jawne treści dotyczące dorosłych na platformach Meta”, prawdopodobnie bez ich zgody. Michelle Kuppersmith, dyrektor wykonawcza Campaign for Accountability, która prowadzi TTP, podkreśliła, że raport ten pojawia się po historycznym porozumieniu o wartości 18 miliardów dolarów, które zobowiązało Metę do wprowadzenia zmian na platformach w celu zwiększenia bezpieczeństwa dzieci. Kuppersmith sugeruje, że proces zatwierdzania reklam w Meta wymaga pilnych interwencji.

Meta usunęła zgłoszone reklamy, ale TTP skrytykowało firmę za opieszałość i niespójne stosowanie polityk, co przedłużało szkody. W ciągu kilku godzin po zgłoszeniu ponad 300 reklam, Meta usunęła około połowę z nich z archiwum, ale wiele nie zostało początkowo oznaczonych jako naruszające politykę dotyczącą wykorzystywania dzieci, co TTP uznało za niepokojące. TTP ostrzegło, że „sugeruje to, że Meta może zaniżać liczbę przypadków wykorzystywania seksualnego dzieci”. Co więcej, dziesiątki reklam CSAM, w tym te z wizerunkiem młodej europejskiej księżniczki, nadal były wyświetlane przez dni po pierwszym zgłoszeniu.

Niespójność w egzekwowaniu zasad i chińscy resellerzy

Meta wykazywała również niespójność w decyzjach o usuwaniu reklam. Usunięto jedną reklamę przedstawiającą dziewczynkę w akcie seksualnym, ale odmówiono usunięcia „identycznej” reklamy z tym samym obrazem i tekstem, twierdząc, że ta kopia nie narusza standardów reklamowych. W innych przypadkach, gdy TTP zgłaszało reklamy jako „problem z osobą poniżej 18 roku życia” lub „wyglądające na wykorzystywanie seksualne”, Meta „potrzebowała co najmniej tygodnia na przegląd zgłoszeń i często nie podejmowała żadnych działań”.

TTP powołało się na raport Reutersa, który sugeruje, że Meta nie zawsze działa natychmiast, gdy chińscy resellerzy zamieszczają reklamy naruszające zasady. Meta rzekomo faworyzuje chińskich resellerów, ponieważ bez nich firma byłaby odcięta od miliardów zysków z lukratywnego chińskiego rynku reklamowego, gdyż jej platformy są tam zakazane. Zgodnie z tymi doniesieniami, TTP odkryło, że „trzech partnerów Meta ds. resellerów reklam w Chinach – GIMC, Meetsocial i BlueFocus – prowadziło reklamy na Facebooku i Instagramie zawierające te same treści CSAM” bez wykrycia.

Niektóre reklamy były również powiązane z ewidentnie fałszywymi stronami biznesowymi, naruszającymi politykę Meta dotyczącą „nieautentycznego zachowania”. Na przykład, reklama z ofiarą ze zdjęcia stockowego była powiązana ze stroną na Facebooku „Kenny Maddie Regan”, która „nazywa się lokalnym biznesem, ale nie ma żadnych treści ani obserwujących poza zdjęciem profilowym trzech kobiet robiących zakupy”. Podobne strony, takie jak „Lynn Nicole Brooks” i „Briflabremgles Nihendrimes”, prowadziły identyczne reklamy. Co najbardziej rażące, strona na Facebooku o nazwie „Divine Productions”, która twierdziła, że reprezentuje Kościół Jezusa Chrystusa Świętych w Dniach Ostatnich, również prowadziła reklamę CSAM, która umknęła uwadze Meta, a została wyłączona dopiero po zgłoszeniu przez TTP.

Konsekwencje i reakcje

Katie Paul, dyrektor TTP, w rozmowie z Wired, podkreśliła, że opóźniona reakcja Meta jest problemem, ponieważ „może to spowodować wiele szkód, podczas gdy Meta czerpie z tego pieniądze”. Chociaż Meta nie ujawnia zasięgu reklam dla każdego regionu, TTP podało, że reklamy „łącznie dotarły do ponad 29 000 osób w UE i 6 800 osób w Wielkiej Brytanii”. Około 80 procent reklam było wyświetlanych w USA, a mniejsza część w Australii.

Meta nie odpowiedziała na prośbę Ars o komentarz. Rzecznik firmy powiedział Wired, że „nie tolerujemy aplikacji nudify ani żadnego rodzaju wykorzystywania dzieci, czy to prawdziwego, czy generowanego przez AI”. Przyznał jednak, że niektóre reklamy umknęły detekcji, ponieważ „klipy nieletnich były krótkie lub zamazane”. Meta próbowała również zbagatelizować fakt, że czerpała zyski z tych reklam, zauważając, że zgłoszone reklamy miały średnio mniej niż 200 wyświetleń i łączny budżet reklamowy poniżej 5000 dolarów.

Jednak TTP sugeruje, że potencjalne zaniżanie liczby reklam CSAM przez Metę może oznaczać, że firma czerpie większe zyski, niż przyznaje. Sprawa wzbudziła zainteresowanie ustawodawców i regulatorów. Prokuratorzy generalni w Michigan i na Florydzie zapowiedzieli, że przyjrzą się reklamom CSAM. W ubiegłym miesiącu senator Mark Warner (D.-Va.) wysłał list, w którym zażądał od Meta „położenia kresu tym nielegalnym i niewłaściwym reklamom” po sierpniowym raporcie Wired. Rzecznik Meta poinformował Wired, że firma zamierza odpowiedzieć na ten list. Prawdopodobnie Meta będzie musiała również odpowiedzieć australijskiemu regulatorowi internetowemu eSafety, który niedawno zakazał korzystania z mediów społecznościowych osobom poniżej 16 roku życia.

Emma Hardy, dyrektor ds. komunikacji w Internet Watch Foundation, powiedziała Wired, że „aplikacje AI znacznie ułatwiają tworzenie realistycznych, przestępczych obrazów wykorzystywania seksualnego dzieci, stwarzając nowe ryzyko, że codzienne zdjęcia dzieci będą brane i przekształcane w treści seksualne”. Podkreśliła, że „platformy i firmy muszą zapewnić, że nie ma miejsca, gdzie te aplikacje mogą być reklamowane i rozpowszechniane”. Ta sytuacja uwypukla rosnące wyzwania związane z regulacją treści generowanych przez AI i odpowiedzialnością platform społecznościowych za bezpieczeństwo użytkowników, zwłaszcza tych najmłodszych.

Źródło: arstechnica.com