Pozew złożony przez Jane Doe stawia xAI w centrum kontrowersji dotyczącej materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM). Kobieta twierdzi, że jej wizerunek z dzieciństwa trafił do zbioru treningowego modelu Grok.
Tło pozwu i historia Jane Doe
Jane Doe była w wieku przedszkolnym, gdy jej zdjęcia wykorzystywano do produkcji materiałów CSAM. Obrazy te trafiły do baz NCMEC i CCCP, co pozwoliło na ich śledzenie przez dekady. Pozew Jane Doe ujawnia, że system powiadomień ofiary wykrył nowe, wygenerowane przez AI wersje jej wizerunku w danych xAI. Kobieta twierdzi, że ponowne pojawienie się tych materiałów spowodowało u niej silną retraumatyzację.
Zarzuty dotyczące rzeczywistych i generowanych materiałów
Według pozwu xAI nie wykluczyło w pełni kategorii CSAM z polityki treningowej. Filtry blokowały przemoc, ale nie precyzowały wyłączenia materiałów CSAM, intymnych obrazów udostępnianych bez zgody (NCII) ani treści tylko dla dorosłych (NSFW).
Mechanizm ponownego treningu na wynikach Groka
Usunięcie pojedynczego przykładu z już wytrenowanego modelu jest technicznie trudne i xAI nigdy nie deklarowało przeprowadzenia takiego zabiegu. Dlatego nawet po usunięciu oryginalnych plików wpływ CSAM mógł pozostać w parametrach modelu.
Roszczenia prawne i możliwe konsekwencje
Doe domaga się również nakazu sądowego zobowiązującego firmę do zniszczenia wszystkich przechowywanych materiałów CSAM wygenerowanych przez Groka.
Reakcja xAI i brak komentarza firmy
Brak jasnej polityki w tym zakresie może prowadzić do dalszych pozwów zbiorowych i presji regulacyjnej na cały sektor sztucznej inteligencji.
Szerszy kontekst regulacji i odpowiedzialności
Wynik postępowania może wymusić na firmach z branży AI wprowadzenie surowszych mechanizmów filtrowania i audytu zbiorów danych przed rozpoczęciem procesu uczenia maszynowego.
Źródła:
Ars Technica, https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/