Demandas contra Grok: fotos escolares convertidas en abuso

No es un caso aislado. En marzo, menores de Tennessee demandaron a xAI y alegaron que Grok se usó para sexualizar sus fotos normales; después se sumaron más demandantes. Padres y menores de Arkansas presentaron reclamaciones similares. En agosto llegó una demanda colectiva de alcance nacional en California. La demandante sostiene además que material de abusos sufridos en su infancia estaba en los datos con los que se creó el sistema, y que Grok generó después más contenido con su imagen. Los abogados calculan que podrían ser miles los afectados. Son acusaciones de las demandas, no hechos probados.

Según análisis que cita Bloomberg, en un momento dado Grok generaba en X miles de imágenes sexualizadas o de «desnudar» por hora. Otros apuntan a decenas de miles de representaciones sexualizadas realistas de menores.

¿Es solo un problema de Estados Unidos?

No. El instituto polaco NASK informó en mayo de que el material de abuso infantil generado con IA detectado por su línea Dyżurnet.pl creció un 300 % en un año, de 88 casos en 2024 a 250 en 2025. Señala las apps «nudify» y los contenidos hechos con rostros de niños reales. Su responsable, Martyna Różycka, advierte de que una foto publicada por un padre puede acabar en un montaje sexual falso.

Los legisladores polacos han reaccionado. Un proyecto presentado en el Sejm el 7 de octubre castigaría difundir sin consentimiento imágenes de desnudos o actos sexuales creadas o alteradas digitalmente, con mención expresa de la IA. La pena propuesta va de 3 meses a 5 años de prisión, igual que para imágenes reales. En la UE, las normas de transparencia del AI Act para contenidos generados por IA, incluidos los deepfakes, se aplican desde el 2 de agosto.