Osegi
Sicherheit·2 Min. Lesezeit

Nudify-Apps: US-Senatoren setzen Apple, Google und Meta unter Druck

Forscher fanden 135 KI-Apps zum Ausziehen von Fotos in Apples und Googles Stores, mit dem Konto eines angeblich 13-Jährigen. Drei US-Senatoren verlangen jetzt Antworten.

A smartphone showing an app store page, with a US Capitol building blurred in the background.
Bild: اليوم السابع

Nudify-Apps, die mit KI nackte Bilder echter Menschen erfinden, sind in den großen App-Stores weiterhin leicht zu finden. Drei US-Senatoren, Ron Wyden, Ed Markey und Ben Ray Luján, haben deshalb Briefe an die Chefs von Apple, Google und Meta geschickt.

Darin heißt es, die bisherigen Maßnahmen gegen solche Apps reichten nicht aus, vor allem weil auch Kinder und Jugendliche sie erreichen. Die Konzerne sollen erklären, warum die Apps weiter verfügbar sind oder sogar beworben werden.

Wie viele Nudify-Apps fanden die Forscher?

Auslöser ist eine Untersuchung des Tech Transparency Project. Es stieß in den Stores von Apple und Google auf 135 Apps, die per KI nackte oder sexuelle Bilder erzeugen können. Getestet wurde mit Konten, die als 13-Jährige registriert waren.

Einige Apps waren selbst bei aktivierter Kindersicherung erreichbar, eine Zustimmung der Eltern zum Download war nicht nötig. Apple und Google entfernten die gemeldeten Apps. Manche liefen aber auf Geräten weiter, auf denen sie schon installiert waren.

Auch Meta steht in der Kritik. Laut den Senatoren erscheinen auf Facebook und Instagram weiterhin Anzeigen für Apps, die intime Bilder von Menschen ohne deren Einwilligung erzeugen, obwohl das Unternehmen solche Werbung verbietet.

Was sagen Apple, Google und Meta dazu?

Google und Meta erklären, sie verböten solche Apps und deren Bewerbung und suchten aktiv nach Verstößen. Apple betont, Nudify-Apps verstießen gegen die App-Review-Richtlinien und würden abgelehnt und entfernt, auch nach Hinweisen von Nutzern.

Im Oktober hatte Apple die Richtlinien verschärft, um nicht einvernehmliche intime Bilder besser zu bekämpfen, auch KI-erzeugte. Apps, mit denen Inhalte erstellt oder geteilt werden, müssen nun Werkzeuge zum Blockieren und Melden missbräuchlicher Inhalte und zum Sperren von Nutzern bieten. Verboten sind außerdem Apps, die schädliche Funktionen während der Prüfung verstecken und nach der Freigabe freischalten, das sogenannte Bait-and-Switch.

Ein Mitarbeiter von Wyden sagt, neue Regeln genügten nicht, wenn sie nicht durchgesetzt und Apps nach der Freigabe weiter kontrolliert würden. Wyden warnte, der Kongress könne eingreifen müssen, falls die Firmen nicht nachbessern. Gerade der Trick mit versteckten Funktionen macht solche Apps schwer aufzuspüren.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:nudify appsapplegooglemetaron wydenai safety

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: Sicherheit

Alle anzeigen →