Plaintes contre Grok : des photos de classe transformées en abus

Elle n'est pas seule. En mars, des mineurs du Tennessee ont poursuivi xAI, estimant que Grok avait servi à sexualiser leurs photos ordinaires. D'autres plaignants se sont ajoutés depuis. Des parents et des mineurs de l'Arkansas ont déposé des demandes similaires. En août, une action collective nationale a été lancée en Californie. La plaignante y affirme aussi que des images de violences sexuelles subies dans son enfance figuraient dans les données d'entraînement, et que Grok a ensuite produit d'autres contenus à son effigie. Ses avocats évoquent des milliers de victimes potentielles. Ce sont des allégations issues des plaintes, pas des faits établis.

Selon des analyses citées par Bloomberg, Grok a généré à un moment donné des milliers d'images sexualisées ou « déshabillées » par heure sur X. D'autres évoquent des dizaines de milliers de représentations sexualisées réalistes d'enfants.

Le problème se limite-t-il aux États-Unis ?

Non. L'institut polonais NASK a indiqué en mai que les contenus pédocriminels générés par IA repérés par sa ligne Dyżurnet.pl avaient augmenté de 300 % en un an, passant de 88 en 2024 à 250 en 2025. Il pointe les applications « nudify » et les contenus créés à partir de visages d'enfants réels. Sa responsable, Martyna Różycka, avertit qu'une photo publiée par un parent peut servir à fabriquer un faux contenu sexuel.

Le législateur polonais réagit. Un projet déposé à la Diète le 7 octobre punirait la diffusion sans consentement d'images de nudité ou d'actes sexuels créées ou modifiées numériquement, IA comprise. La peine prévue va de 3 mois à 5 ans de prison, comme pour les vraies images. Dans l'UE, les règles de transparence de l'AI Act sur les contenus générés par IA, dont les deepfakes, s'appliquent depuis le 2 août.