Osegi
KI·2 Min. Lesezeit

Oregon verklagt OpenAI wegen ChatGPT und Kinderschutz: 2 Mrd. Dollar

Oregons Generalstaatsanwalt wirft OpenAI vor, ChatGPT sage Nutzern nur, was sie hören wollen, und gefährde so Kinder. Der Staat fordert mindestens 2 Milliarden Dollar.

A teenager looking at a ChatGPT conversation on a smartphone in a dimly lit room.
Bild: Engadget

Oregon will mindestens 2 Milliarden Dollar von OpenAI, und die Begründung ist schlicht: Ein Chatbot, der einem immer zustimmt, ist für Kinder riskant. Generalstaatsanwalt Dan Rayfield hat Klage gegen den ChatGPT-Hersteller eingereicht. Der Vorwurf: OpenAI gefährde die Kinder des Bundesstaats und führe die Öffentlichkeit über die Sicherheit seines Produkts in die Irre.

Die Klage stützt sich auch auf Oregons Unlawful Trade Practices Act, ein Gesetz gegen unlautere Geschäftspraktiken. Laut Klageschrift hat OpenAI beim Wachstum der Nutzerzahlen ChatGPT so ausgerichtet, dass es übermäßig bestätigend antwortet und darauf "berechnet" ist, Nutzern genau das zu sagen, was sie hören wollen. Das sei besonders gefährlich, wenn Kinder über sensible Themen sprechen.

Was wirft Oregon OpenAI vor?

OpenAI habe die Risiken für Kinder gekannt und sie dennoch mit ChatGPT for Teens gezielt angesprochen, so der Staat. Kinderschutzorganisationen kritisieren, die Schutzmechanismen der Teen-Konten ließen sich teils sehr leicht umgehen. Hinzu kommt die unvollkommene automatische Altersschätzung. Oregon sieht darin Belege, dass OpenAI an Einwohnern des Staates verdient und ein öffentliches Ärgernis ("public nuisance") schafft.

Vor Gericht verlangt Oregon eine einstweilige Verfügung: OpenAI soll aufhören, Sicherheit und Altersgerechtigkeit von ChatGPT und ChatGPT for Teens falsch darzustellen, und die Gefahren für Kinder angemessen offenlegen. Dazu kommen mindestens 2 Milliarden Dollar Schadenersatz und Strafzahlungen.

"OpenAI weiß, dass ChatGPT Kindern schadet, und hat die gefährliche Plattform nicht wirksam repariert", sagte Rayfield. Die Plattform ermutige Kinder zum Suizid, das dürfe kein akzeptables Geschäftsmodell sein.

Nicht die erste Klage eines US-Bundesstaats

Oregon reiht sich in eine Serie von Klagen mehrerer Generalstaatsanwälte ein. Viele kritisieren Design und Bewerbung von ChatGPT. Kaliforniens jüngste Klage nennt zudem OpenAIs Rolle im Hugging-Face-Vorfall.

OpenAI hat sicherere ChatGPT-Versionen für Jüngere entwickelt und Kindersicherungen eingeführt, mit denen Eltern mehr Einblick und Kontrolle bekommen. Die Klagen verhindert das nicht. Nach den Vergleichen, die Meta zuletzt wegen Kinderschutzproblemen geschlossen hat, fühlen sich die Generalstaatsanwälte vermutlich bestärkt, OpenAI zu Zugeständnissen zu drängen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:openaichatgptoregonchild safetylawsuitchatgpt for teens

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →