Kobieta oskarża Groka o stworzenie 7000 zdjęć wykorzystujących seksualnie jej wizerunek z dzieciństwa

Kobieta, zidentyfikowana jako Jane Doe 4, dołączyła do pozwu sądowego złożonego przez trzech nastolatków z Tennessee przeciwko firmie xAI Elona Muska. Oskarża ona chatbota Grok o odegranie roli w stworzeniu materiałów przedstawiających wykorzystywanie seksualne dzieci.

Według raportu opublikowanego w „The Washington Post”, kobieta twierdzi, że jej ojczym wykorzystał Groka do manipulacji zdjęciem z jej dzieciństwa, wykonanym, gdy miała 11 lat. W ten sposób miało powstać ponad 7000 niecenzuralnych obrazów z jej wizerunkiem. Kobieta dodała również, że jej ojczym został znaleziony martwy dwa dni po tym, jak obrazy te zostały odkryte podczas nalotu organów ścigania, a przyczyną śmierci było samobójstwo.

Rosnące obawy dotyczące nadużyć AI

„Nieograniczony dostęp do tych narzędzi rozprzestrzenia się tak szybko” – powiedziała kobieta. „Zmienia to codzienne życie w wykorzystywanie seksualne dzieci”.

Nastolatkowie, którzy wcześniej złożyli pozew, oskarżyli xAI (obecnie część SpaceX) o to, że firma nie podjęła podstawowych środków ostrożności, aby zapobiec wykorzystywaniu Groka do tworzenia niecenzuralnych obrazów prawdziwych osób, w tym nieletnich. Wcześniej w tym roku platforma X została zalana milionami wygenerowanych przez Groka zseksualizowanych obrazów. Powodowie dążą do uzyskania statusu pozwu zbiorowego.

Redakcja TechCrunch skontaktowała się z xAI w celu uzyskania komentarza w tej sprawie.

Kontekst i konsekwencje

Ta sprawa podkreśla rosnące wyzwania związane z etycznym wykorzystaniem sztucznej inteligencji i potrzebę rygorystycznych zabezpieczeń w technologiach generatywnych. Incydent z Grokiem i zarzuty wobec xAI wskazują na pilną potrzebę opracowania i wdrożenia skutecznych mechanizmów kontroli, które zapobiegną nadużyciom i ochronią najbardziej wrażliwe grupy społeczne, zwłaszcza dzieci. Rozwój AI, choć obiecujący, musi iść w parze z odpowiedzialnością i świadomością potencjalnych zagrożeń, aby technologia nie stała się narzędziem do popełniania przestępstw.

Źródło: techcrunch.com