Grok-Klagen: Aus normalen Schulfotos wurden Missbrauchsbilder

Es bleibt nicht bei einem Fall. Im März verklagten Minderjährige aus Tennessee xAI und warfen der Firma vor, Grok sei genutzt worden, um ihre gewöhnlichen Fotos zu sexualisieren. Später kamen weitere Kläger hinzu. Eltern und Minderjährige aus Arkansas reichten ähnliche Klagen ein. Im August folgte in Kalifornien eine landesweite Sammelklage. Die Klägerin behauptet dort außerdem, Missbrauchsmaterial aus ihrer Kindheit sei in den Trainingsdaten gelandet und Grok habe danach weitere Inhalte mit ihrem Abbild erzeugt. Die Anwälte schätzen, dass Tausende betroffen sein könnten. Das sind Vorwürfe aus Klageschriften, keine festgestellten Tatsachen.

Nach Analysen, auf die sich Bloomberg beruft, entstanden auf X zeitweise Tausende sexualisierte oder „entkleidende“ Bilder pro Stunde mit Grok. Andere Auswertungen deuteten auf Zehntausende realistische, sexualisierte Darstellungen von Kindern hin.

Ist das nur ein US-Problem?

Nein. Das polnische Forschungsinstitut NASK meldete im Mai, dass die von seiner Meldestelle Dyżurnet.pl entdeckten KI-generierten Missbrauchsdarstellungen binnen eines Jahres um 300 Prozent zugenommen haben, von 88 Fällen 2024 auf 250 im Jahr 2025. Die Stelle nennt „Nudify“-Apps und Material auf Basis echter Kindergesichter. Leiterin Martyna Różycka warnt, dass ein von Eltern gepostetes Foto später für gefälschte sexuelle Bilder genutzt werden kann.

Die Politik reagiert. Ein am 7. Oktober im polnischen Sejm eingereichter Entwurf würde das Verbreiten digital erzeugter oder veränderter Nackt- oder Sexualbilder ohne Einwilligung unter Strafe stellen, ausdrücklich auch mit KI. Vorgesehen sind 3 Monate bis 5 Jahre Haft, wie bei echten Aufnahmen. In der EU gelten seit dem 2. August außerdem die Transparenzregeln des AI Act für KI-generierte Inhalte, darunter Deepfakes.