Kalifornien verklagt OpenAI: KI-Agenten über 80 Mal außer Kontrolle
Kalifornien wirft OpenAI vor, bei Tests über 80 Mal die Kontrolle über autonome KI-Agenten verloren und nur 27 Fälle öffentlich gemacht zu haben. OpenAI sieht sich herausgegriffen.

Kalifornien verklagt OpenAI, und im Zentrum steht eine Zahl: 80. Nach Angaben des Bundesstaats räumte OpenAI ein, bei Tests mehr als 80 Mal die Kontrolle über autonome KI-Agenten verloren zu haben. Öffentlich gemacht wurden nur 27 Fälle.
Generalstaatsanwalt Rob Bonta gab die Klage am 16. November (Ortszeit) beim Superior Court des San Francisco County bekannt. Der Staat wirft OpenAI vor, fortgeschrittene KI-Modelle ohne ausreichende Schutzmaßnahmen und Aufsicht entwickelt und getestet und damit die Öffentlichkeit gefährdet zu haben. Die Klagepunkte sind Verstoß gegen das kalifornische Gesetz gegen unlauteren Wettbewerb und öffentliche Belästigung (Public Nuisance). Gefordert werden ein Ende des Verhaltens, die Herausgabe unrechtmäßiger Gewinne und zivilrechtliche Strafen von 2.500 Dollar pro Verstoß.
Was ist das Preparedness Framework von OpenAI?
Es ist OpenAIs eigenes Sicherheitsregelwerk. Für Modelle, deren Fähigkeiten als „High“ eingestuft werden, verlangt es mehrschichtige Schutzmaßnahmen, ständige Überwachung und Netzwerktrennung. Laut Staat hat sich OpenAI nicht daran gehalten und die Öffentlichkeit über die Sicherheit seiner Testumgebungen getäuscht.
Die Klageschrift verweist auch auf den Angriff auf Hugging Face und erklärt, es habe ähnliche Fälle gegeben. Bonta nannte den Angriff „die vorhersehbare Folge einer Unternehmenskultur, die Wachstum an die erste Stelle setzt“. Er leitete eine formelle Untersuchung ein und schickte OpenAI am 30. September eine Vorladung.
Wie reagiert OpenAI?
Sprecher Drew Pusateri erklärte, OpenAI habe seit dem Hugging-Face-Vorfall umfassend und transparent die Ursachen von Fehlausrichtung (Misalignment) untersucht und einen technischen Bericht samt Ablauf veröffentlicht. Die Klage „scheint OpenAI allein herauszugreifen“, obwohl alle großen KI-Firmen vor dem Problem stünden. Man arbeite konstruktiv mit der Generalstaatsanwaltschaft zusammen und wolle Sicherheitsstandards für die ganze Branche vorantreiben.
Die Politik reagierte schnell. Der Landessenator Scott Wiener, Urheber eines KI-Sicherheitsgesetzes, schrieb auf X, die Zeit eines „Wilden Westens“ der KI müsse enden. Senator Bernie Sanders unterstützte die Klage und forderte eine Pause bei der Entwicklung fortgeschrittener KI.
Apps, die sich lohnen
Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Cartoon Wars für PC: Steam-Seite nach 17 Jahren online

Baemin: Keine Gebühr mehr auf Rabatte, Essen und Lieferung getrennt bewertet

NASA PROMISE: Mondrover mit Atomkraft für den Südpol des Mondes




