Kobieta znana jako Jane Doe 4 dołączyła do pozwu trzech nastolatków z Tennessee przeciwko xAI. Twierdzi, że chatbot Grok zamienił jej stare zdjęcie w treści o charakterze seksualnym z udziałem dzieci. Sprawa stawia pytania o mechanizmy bezpieczeństwa w modelach językowych.
Tło pozwu i rola Groka
Kobieta zidentyfikowana jako Jane Doe 4 dołączyła do pozwu złożonego przez trzech nastolatków z Tennessee. Zgodnie z doniesieniami „The Washington Post”, pozew zarzuca xAI, że chatbot Grok umożliwił stworzenie materiałów o charakterze seksualnym z udziałem dzieci. xAI pozywa użytkownika Groka w podobnych sprawach już wcześniej.
Użytkownik miał przesłać stare zdjęcie i poprosić o jego modyfikację. Model miał wykonać polecenie bez dodatkowych ostrzeżeń czy blokad. To stawia pod znakiem zapytania obecne filtry bezpieczeństwa w Groku. Grok wygenerował CSAM na podstawie jednego zdjęcia.
Mechanizmy bezpieczeństwa w modelach xAI
xAI pozycjonuje Groka jako model mniej ocenzurowany w porównaniu do konkurencji. Taka filozofia może jednak prowadzić do luk w ochronie przed nadużyciami. W pozwie zarzuca się firmie brak wystarczającego testowania przez zespoły atakujące (red teaming) pod kątem generowania treści z udziałem nieletnich.
Firmy takie jak OpenAI czy Anthropic stosują wielowarstwowe filtry i regularne audyty. xAI do tej pory nie opublikowała szczegółowych raportów na ten temat. Brak audytów przeprowadzanych przez zespoły atakujące może wyjaśniać incydent opisany w pozwie.
Konsekwencje prawne dla xAI
Pozew zbiorowy w Tennessee może otworzyć drogę do dalszych roszczeń w innych stanach. Amerykańskie prawo nie ma jeszcze jednolitych regulacji dotyczących odpowiedzialności dostawców modeli za generowane treści. Sąd będzie musiał rozstrzygnąć, czy xAI ponosi winę za działania użytkownika.
Podobne sprawy przeciwko Meta i Stability AI trwają od miesięcy. Wynik może wpłynąć na całą branżę. Pozew zbiorowy w Tennessee może zmienić podejście firm do moderacji.
Wpływ na użytkowników i prywatność
Sprawa pokazuje ryzyko związane z udostępnianiem zdjęć dzieci w internecie. Nawet stare fotografie mogą zostać wykorzystane przez osoby trzecie do generowania nielegalnych treści. Użytkownicy powinni być świadomi, jak łatwo modele AI przetwarzają obrazy.
Posłanka pozywa xAI w innej sprawie dotyczącej deepfake’ów. To pokazuje rosnące zainteresowanie tematem w różnych krajach. Zdjęcia dzieci w sieci stają się potencjalnym ryzykiem prawnym.
Reakcje branży i ekspertów
Eksperci ds. bezpieczeństwa AI wskazują, że modele otwarte lub mniej restrykcyjne wymagają dodatkowych mechanizmów wykrywania CSAM. xAI nie skomentowała jeszcze szczegółowo pozwu. Analitycy zwracają uwagę na potrzebę współpracy z organizacjami walczącymi z wykorzystywaniem dzieci.
W porównaniu do Google i Microsoftu, xAI wydaje się opóźniona w publikowaniu polityk dotyczących treści nielegalnych. Może to wpłynąć na zaufanie klientów korporacyjnych. Polityka xAI wobec CSAM pozostaje niejasna dla opinii publicznej.
Przyszłość regulacji modeli generatywnych
Sprawa może przyspieszyć prace nad ustawami takimi jak AI Act w Europie czy podobne inicjatywy w USA. Dostawcy modeli będą musieli udowodnić, że wdrożyli skuteczne zabezpieczenia przed generowaniem treści z udziałem nieletnich. Bez takich zmian kolejne pozwy są prawdopodobne.
Użytkownicy Groka powinni wiedzieć, że firma nie gwarantuje całkowitego blokowania niebezpiecznych poleceń (promptów). Zmienia to sposób korzystania z narzędzi AI w codziennym życiu. Regulacje AI w USA mogą się zaostrzyć po tym pozwie.
Źródła:
TechCrunch, The Washington Post, Ars Technica, Wired, x.ai blog