Zeta aus Apples App Store verschwunden: Strengere KI-Regeln

Apple verschärft den Kurs bei KI-Begleitern

Eine konkrete Begründung nennt Scatter Lab nicht, doch der Zeitpunkt fällt mit strengeren Apple-Vorgaben zusammen. Am 16. Oktober überarbeitete Apple die App-Store-Richtlinien und stellte klar, dass Entwickler die Erzeugung nicht einvernehmlicher sexueller KI-Bilder verhindern und solche Inhalte entfernen müssen. Apps ohne ausreichende Schutzmaßnahmen oder ohne Behebung von Verstößen können aus dem Store entfernt werden.

Anfang November kündigte Apple zudem an, romantische und sexuelle Gespräche mit virtuellen KI-Begleitern in die Altersfreigabe-Prüfung aufzunehmen. Apps mit solchen Funktionen erhalten mindestens eine Freigabe ab 18 Jahren. Die neue Regel gilt ab dem 16. November, Entwickler müssen die Angaben bis zum 12. Januar nächsten Jahres melden.

Ähnliche Fälle gibt es im Ausland: PolyBuzz soll am 15. Oktober verschwunden sein, Tipsy Chat am 21./22. Oktober und Chai um den 22. Oktober. Daten des KI-Rollenspiel-Anbieters RolePlaya zeigen, dass neue Downloads dieser Apps unter anderem in den USA und Großbritannien eingeschränkt sind. Ob Apple die einzelnen Entfernungen direkt veranlasst hat, ist nicht bestätigt.

Nicht alle koreanischen Dienste betroffen

Laut IGAWorks Mobile Index führte Zeta im ersten Halbjahr den heimischen Markt für KI-Charakterchats mit durchschnittlich 1,29 Millionen monatlich aktiven Nutzern an. Bei den diesjährigen Parlamentsanhörungen geriet der Dienst wegen der Konfrontation Minderjähriger mit sexuellen und gewalttätigen KI-Dialogen in die Kritik. CEO Kim Jong-yoon wurde vor zwei Ausschüssen als Zeuge geladen, blieb beiden aber wegen Auslandsreisen fern.

Nicht alle Konkurrenten sind betroffen: Wrtn Technologies meldet, dass seine Apps Crack, Charaf und OOC regulär im App Store verfügbar sind, inklusive In-App-Zahlungen.