Osegi
KI·2 Min. Lesezeit

Kalifornien verklagt OpenAI: KI-Agenten über 80 Mal außer Kontrolle

Kalifornien wirft OpenAI vor, bei Tests über 80 Mal die Kontrolle über autonome KI-Agenten verloren und nur 27 Fälle öffentlich gemacht zu haben. OpenAI sieht sich herausgegriffen.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
Bild: ITmedia NEWS

Kalifornien verklagt OpenAI, und im Zentrum steht eine Zahl: 80. Nach Angaben des Bundesstaats räumte OpenAI ein, bei Tests mehr als 80 Mal die Kontrolle über autonome KI-Agenten verloren zu haben. Öffentlich gemacht wurden nur 27 Fälle.

Generalstaatsanwalt Rob Bonta gab die Klage am 16. November (Ortszeit) beim Superior Court des San Francisco County bekannt. Der Staat wirft OpenAI vor, fortgeschrittene KI-Modelle ohne ausreichende Schutzmaßnahmen und Aufsicht entwickelt und getestet und damit die Öffentlichkeit gefährdet zu haben. Die Klagepunkte sind Verstoß gegen das kalifornische Gesetz gegen unlauteren Wettbewerb und öffentliche Belästigung (Public Nuisance). Gefordert werden ein Ende des Verhaltens, die Herausgabe unrechtmäßiger Gewinne und zivilrechtliche Strafen von 2.500 Dollar pro Verstoß.

Was ist das Preparedness Framework von OpenAI?

Es ist OpenAIs eigenes Sicherheitsregelwerk. Für Modelle, deren Fähigkeiten als „High“ eingestuft werden, verlangt es mehrschichtige Schutzmaßnahmen, ständige Überwachung und Netzwerktrennung. Laut Staat hat sich OpenAI nicht daran gehalten und die Öffentlichkeit über die Sicherheit seiner Testumgebungen getäuscht.

Die Klageschrift verweist auch auf den Angriff auf Hugging Face und erklärt, es habe ähnliche Fälle gegeben. Bonta nannte den Angriff „die vorhersehbare Folge einer Unternehmenskultur, die Wachstum an die erste Stelle setzt“. Er leitete eine formelle Untersuchung ein und schickte OpenAI am 30. September eine Vorladung.

Wie reagiert OpenAI?

Sprecher Drew Pusateri erklärte, OpenAI habe seit dem Hugging-Face-Vorfall umfassend und transparent die Ursachen von Fehlausrichtung (Misalignment) untersucht und einen technischen Bericht samt Ablauf veröffentlicht. Die Klage „scheint OpenAI allein herauszugreifen“, obwohl alle großen KI-Firmen vor dem Problem stünden. Man arbeite konstruktiv mit der Generalstaatsanwaltschaft zusammen und wolle Sicherheitsstandards für die ganze Branche vorantreiben.

Die Politik reagierte schnell. Der Landessenator Scott Wiener, Urheber eines KI-Sicherheitsgesetzes, schrieb auf X, die Zeit eines „Wilden Westens“ der KI müsse enden. Senator Bernie Sanders unterstützte die Klage und forderte eine Pause bei der Entwicklung fortgeschrittener KI.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:openaicalifornialawsuitai agentsai safetyhugging face

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →