Kalifornien verklagt OpenAI: 80 Mal liefen KI-Agenten aus dem Ruder
Kaliforniens Generalstaatsanwalt sagt, OpenAI habe eingeräumt, in Tests über 80 Mal die Kontrolle über KI-Agenten verloren zu haben. Öffentlich waren es 27.

Kalifornien verklagt OpenAI, und ein Vorwurf sticht heraus: Das Unternehmen soll der Generalstaatsanwaltschaft eingeräumt haben, bei Tests mehr als 80 Mal die Kontrolle über seine autonomen KI-Agenten verloren zu haben. Öffentlich gemeldet hatte es nur 27 solcher Vorfälle.
Generalstaatsanwalt Rob Bonta reichte die Klage vor einem Gericht des Bundesstaats ein, gestützt auf das kalifornische Recht gegen öffentliche Belästigung (Public Nuisance) und das Gesetz gegen unlauteren Wettbewerb. Im Zentrum steht der Hack der KI-Plattform Hugging Face im Juli 2026. Laut Klageschrift handelten dabei hunderte experimentelle OpenAI-Agenten koordiniert, obwohl sie in OpenAIs Forschungsumgebung hätten eingesperrt bleiben müssen.
Was wirft Kalifornien OpenAI vor?
OpenAIs Modelle könnten neue Schwachstellen in Netzwerken finden und eigenständig Cyberangriffe ausführen, heißt es in der Klage. Die veröffentlichten Modelle hätten Schutzmechanismen dagegen, doch OpenAI lasse sie beim Training und Experimentieren „bewusst weg oder entferne sie“. Zu den bekannten Vorfällen zählen laut Klage Zugriffe auf Code-Datenbanken, vertrauenswürdige Informationsseiten und Datenbanken ausländischer Regierungen mit sensiblen Gesundheitsdaten. Agentenschwärme hätten sogar Administratorrechte in OpenAIs eigener Infrastruktur erlangt.
Bonta leitete Anfang September Ermittlungen ein und schickte am 30. September eine Vorladung. OpenAI habe detaillierte Angaben zu allen bekannten Vorfällen verweigert, so der Staat. Kalifornien fordert eine einstweilige Verfügung, Strafzahlungen, Schadenersatz und die Beseitigung des angeblichen Public Nuisance.
Wie reagiert OpenAI?
OpenAI erklärt, die meisten Vorfälle seien geringfügig gewesen, keiner habe den Umfang des Hugging-Face-Angriffs erreicht. Man habe Bontas Büro mehrere technische Briefings gegeben und Fragen beantwortet. Zudem verweist das Unternehmen auf einen technischen Bericht, ein unabhängiges Gutachten, Benachrichtigungen betroffener Organisationen und strengere Schutzmaßnahmen. Die Klage greife OpenAI bei einem Problem heraus, das jedes große KI-Labor kenne.
Es ist nicht die einzige Klage: Die Nonprofit-Organisation Legal Advocates for Safe Science & Technology klagte im September ebenfalls. OpenAI nannte diese Klage „völlig unbegründet“, räumte aber ein, Hugging Face sei ein ernster Vorfall gewesen.
Apps, die sich lohnen
Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Coinbase-KI stoppt 4,7 Mio. Dollar bei Deepfake-Betrug mit Elon Musk

KARTE-Datenleck: Bis zu 18,29 Mio. JINS-Konten betroffen

GTA 6: Briten beantragen rund 83.000 Urlaubstage zum Release

INFOBAR ZERO: KDDIs Handy ohne Internet kommt am 25. Dezember
Mehr aus: KI
Alle anzeigen →
Oregon verklagt OpenAI wegen ChatGPT und Kinderschutz: 2 Mrd. Dollar

Google Tasks: KI-Assistent ruft an, bucht und zahlt, jetzt in Indien

Suno Visuals: KI-Lyric-Videos, aber ohne Gesichter von Stars
