Pozwy przeciw xAI: Grok i zwykłe zdjęcia ze szkoły

Kto pozywa xAI i o co?

Powodów przybywa. W marcu nieletni z Tennessee oskarżyli firmę o to, że Grok seksualizował ich zwyczajne zdjęcia, a pozew rozszerzono potem o kolejne osoby. Podobne roszczenia zgłosili rodzice i nieletni z Arkansas. W sierpniu w Kalifornii pojawił się ogólnokrajowy pozew zbiorowy. Skarżąca twierdzi, że materiały z jej dzieciństwa znalazły się w danych użytych do trenowania systemu. Prawnicy powodów mówią o możliwych tysiącach poszkodowanych. Na razie to jednak zarzuty z pozwów, nie ustalenia sądu.

Bloomberg przywołuje też analizy, według których na X Grok generował w pewnym momencie tysiące seksualizujących obrazów na godzinę. Według innych mogły wśród nich być dziesiątki tysięcy realistycznych przedstawień dzieci.

Czy to problem także w Polsce?

Tak. NASK podał w maju, że liczba materiałów z seksualnym wykorzystywaniem dzieci wygenerowanych przez AI, wykrytych przez Dyżurnet.pl, wzrosła w rok o 300 proc.: z 88 w 2024 r. do 250 w 2025 r. Zespół ostrzega przed aplikacjami typu „nudify” i przed wykorzystywaniem wizerunków prawdziwych dzieci. Martyna Różycka, szefowa Dyżurnetu, przypomina, że zdjęcie opublikowane przez rodzica może posłużyć do fałszywego materiału seksualnego.

7 października do Sejmu trafił projekt zmian w Kodeksie karnym. Przewiduje karę od 3 miesięcy do 5 lat więzienia za rozpowszechnianie bez zgody cyfrowo wytworzonego wizerunku osoby nagiej lub uczestniczącej w czynności seksualnej, z wyraźną wzmianką o AI. To tyle samo, ile grozi dziś z art. 191a za autentyczne materiały. Od 2 sierpnia obowiązują też unijne wymogi AI Act dotyczące oznaczania deepfake'ów.