xAI Elona Muska oskarżone o wykorzystanie materiałów CSAM do trenowania modelu Grok

Firma xAI Elona Muska znalazła się w centrum kontrowersji po tym, jak w złożonym w środę pozwie sądowym oskarżono ją o wykorzystanie materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM), w tym treści generowanych przez sztuczną inteligencję, do trenowania swoich modeli Grok. Oskarżenia te pojawiły się w momencie, gdy organy regulacyjne i sądy intensywnie badają problem CSAM, a niektórzy użytkownicy Groka zostali już aresztowani w związku z tymi materiałami.

Oskarżenia o wykorzystanie CSAM w treningu Groka

Powiększenie zdjęcia dmuchanej kukły Elona Muska w Nowym Jorku, protestującej przeciwko Grok AI, podkreśla skalę oburzenia. Powódka, znana jako Jane Doe, wyjaśniła w pozwie, że jako przedszkolak we wczesnych latach 2000 była wielokrotnie gwałcona, a powstałe wówczas materiały CSAM były sprzedawane pedofilom online. Od tego czasu jej obrazy były haszowane przez organizacje takie jak National Center for Missing and Exploited Children (NCMEC) i Canadian Centre for Child Protection (CCCP), aby chronić ją i identyfikować przestępców.

Doe, która otrzymuje powiadomienia z US Department of Justice Victim Notification System o nowych śledztwach, była zszokowana, gdy CCCP poinformowało ją o zidentyfikowaniu AI-generowanych materiałów CSAM na platformie xAI, które ją przedstawiały. To zdarzenie ponownie ją straumatyzowało. W pozwie zarzucono, że na forach internetowych znaleziono wiadomości „między sprawcami rozmawiającymi o tworzeniu generowanych przez AI CSAM powódki i innych podobnych, znanych, długoletnich ofiar CSAM”.

Powódka obawia się, że xAI nie tylko ułatwiło tworzenie bardziej naruszających jej godność obrazów z najtrudniejszego okresu jej życia, ale także, że firma rzekomo przechowuje generowane przez Groka obrazy i wykorzystuje je do dalszego trenowania modelu. Wierzy, że Grok został przeszkolony zarówno na początkowym zestawie obrazów, które prześladowały ją przez ponad 20 lat, jak i na nowszych, generowanych przez AI.

Szczegóły pozwu i mechanizm działania Groka

Jest to pierwszy przypadek oskarżenia xAI o trenowanie na CSAM, choć pozew nie wchodzi w szczegóły dotyczące tego konkretnego zarzutu. Wcześniej informowano o kontrowersyjnym zbiorze danych, który został usunięty po tym, jak badacze znaleźli w nim CSAM, jednak nie ma dowodów, że xAI trenowało na tych danych. W komunikacie prasowym prawników reprezentujących Doe wyjaśniono, że jej obrazy znalazły się na liście haszy CSAM prowadzonej przez NCMEC, a „ten sam materiał” rzekomo „był częścią zbioru danych, którego xAI użyło do budowy możliwości generowania obrazów i wideo przez Groka”. Pozew stwierdza jedynie, że „CSAM przedstawiające powódkę z jej długo znanymi wartościami haszującymi zostało użyte jako część zbioru danych wykorzystywanego przez xAI”.

Więcej szczegółów dotyczy zarzutów, że Grok trenuje na CSAM generowanym przez AI. Zgodnie z pozwem Doe, „ponieważ warunki Groka traktują publiczne posty na X i własne wyniki Groka jako dane treningowe domyślnie, publiczne opublikowanie obrazu nie tylko wystawia go na widok publiczny, ale także bezpośrednio zasila potok, którego xAI używa do trenowania i ulepszania swojego modelu, a tym samym generowania dalszych obrazów”.

Pozew wskazuje również, że choć xAI filtruje treści o charakterze przemocowym w wynikach Groka, aby wykluczyć je z danych treningowych, warunki xAI nie precyzują, czy CSAM, niekonsensualne intymne obrazy (NCII) lub materiały NSFW są „wykluczonymi kategoriami”. Wynika z tego, że „ponieważ pełne usunięcie wpływu przykładu treningowego z już wytrenowanego modelu jest technicznie trudne i nie jest czymś, co xAI publicznie twierdziło, że zrobiło, wszelkie CSAM włączone do treningu przed usunięciem prawdopodobnie nadal kształtowały wyniki modelu, nawet po usunięciu oryginalnych obrazów z widoku publicznego” – czytamy w pozwie Doe.

Konsekwencje i żądania powódki

W proponowanym pozwie zbiorowym Doe dąży do położenia kresu szkodliwym wynikom Groka. Jeśli pozew zostanie zatwierdzony, klasa reprezentowałaby każdą ofiarę, której obrazy z dzieciństwa zostały wykorzystane do generowania CSAM przez Groka. Pozew oskarża X (dawniej Twitter) o naruszenie federalnych przepisów dotyczących pornografii dziecięcej, a także Masha’s Law, które dają ofiarom CSAM prawo do pozywania w sprawach dotyczących produkcji, posiadania i dystrybucji. Prawniczka Doe, Margaret E. Mabie, zasugerowała w komunikacie prasowym, że wszystkie trzy są przestępstwami, a „xAI popełniło wszystkie trzy”.

Jeśli Doe wygra, xAI może być zobowiązane do wypłaty odszkodowań każdej ofierze, która udowodni, że Grok wygenerował CSAM na podstawie jej prawdziwych zdjęć. Doe zwróciła się również do sądu o nakazanie xAI zniszczenia wszystkich wygenerowanych przez Groka materiałów CSAM, które mogą być przechowywane na jej serwerach i wykorzystywane do trenowania modeli Groka. Dodatkowo, chce, aby xAI zablokowało Grokowi możliwość generowania CSAM, co według jej pozwu wymagałoby zablokowania wszelkich seksualizowanych wyników Groka, w tym NCII i NSFW „zdjęć w bikini”, które promował Musk.

Sarah London, jedna z prawniczek Doe, stwierdziła w komunikacie prasowym, że Doe „żyła przez prawie dwie dekady, wiedząc, że obrazy najgorszej rzeczy, jaka jej się przydarzyła, krążą wśród drapieżników online i mogą pojawić się w każdej chwili. xAI musi ponieść odpowiedzialność za świadome trenowanie swoich modeli na obrazach straszliwego wykorzystywania, którego doświadczyła, oraz na obrazach wykorzystywania każdej innej ofiary w tej klasie”. Firma X nie odpowiedziała na prośbę Ars o komentarz.

Sprawa ta podkreśla rosnące wyzwania etyczne i prawne związane z rozwojem sztucznej inteligencji, szczególnie w kontekście wykorzystania danych treningowych. Konieczność zapewnienia bezpieczeństwa i ochrony prywatności, zwłaszcza w przypadku wrażliwych materiałów, staje się kluczowa dla wiarygodności i akceptacji technologii AI w społeczeństwie. Wynik tego procesu może mieć dalekosiężne konsekwencje dla branży AI, ustanawiając precedensy dotyczące odpowiedzialności za treści generowane i wykorzystywane przez modele językowe.

Źródło: arstechnica.com