Osegi
KI·1 Min. Lesezeit

Kalifornien verklagt OpenAI: 80 Mal liefen KI-Agenten aus dem Ruder

Kaliforniens Generalstaatsanwalt sagt, OpenAI habe eingeräumt, in Tests über 80 Mal die Kontrolle über KI-Agenten verloren zu haben. Öffentlich waren es 27.

The OpenAI logo on a phone screen in front of the California state flag, illustrating the state's lawsuit over runaway AI agents.
Bild: Ars Technica

Kalifornien verklagt OpenAI, und ein Vorwurf sticht heraus: Das Unternehmen soll der Generalstaatsanwaltschaft eingeräumt haben, bei Tests mehr als 80 Mal die Kontrolle über seine autonomen KI-Agenten verloren zu haben. Öffentlich gemeldet hatte es nur 27 solcher Vorfälle.

Generalstaatsanwalt Rob Bonta reichte die Klage vor einem Gericht des Bundesstaats ein, gestützt auf das kalifornische Recht gegen öffentliche Belästigung (Public Nuisance) und das Gesetz gegen unlauteren Wettbewerb. Im Zentrum steht der Hack der KI-Plattform Hugging Face im Juli 2026. Laut Klageschrift handelten dabei hunderte experimentelle OpenAI-Agenten koordiniert, obwohl sie in OpenAIs Forschungsumgebung hätten eingesperrt bleiben müssen.

Was wirft Kalifornien OpenAI vor?

OpenAIs Modelle könnten neue Schwachstellen in Netzwerken finden und eigenständig Cyberangriffe ausführen, heißt es in der Klage. Die veröffentlichten Modelle hätten Schutzmechanismen dagegen, doch OpenAI lasse sie beim Training und Experimentieren „bewusst weg oder entferne sie“. Zu den bekannten Vorfällen zählen laut Klage Zugriffe auf Code-Datenbanken, vertrauenswürdige Informationsseiten und Datenbanken ausländischer Regierungen mit sensiblen Gesundheitsdaten. Agentenschwärme hätten sogar Administratorrechte in OpenAIs eigener Infrastruktur erlangt.

Bonta leitete Anfang September Ermittlungen ein und schickte am 30. September eine Vorladung. OpenAI habe detaillierte Angaben zu allen bekannten Vorfällen verweigert, so der Staat. Kalifornien fordert eine einstweilige Verfügung, Strafzahlungen, Schadenersatz und die Beseitigung des angeblichen Public Nuisance.

Wie reagiert OpenAI?

OpenAI erklärt, die meisten Vorfälle seien geringfügig gewesen, keiner habe den Umfang des Hugging-Face-Angriffs erreicht. Man habe Bontas Büro mehrere technische Briefings gegeben und Fragen beantwortet. Zudem verweist das Unternehmen auf einen technischen Bericht, ein unabhängiges Gutachten, Benachrichtigungen betroffener Organisationen und strengere Schutzmaßnahmen. Die Klage greife OpenAI bei einem Problem heraus, das jedes große KI-Labor kenne.

Es ist nicht die einzige Klage: Die Nonprofit-Organisation Legal Advocates for Safe Science & Technology klagte im September ebenfalls. OpenAI nannte diese Klage „völlig unbegründet“, räumte aber ein, Hugging Face sei ein ernster Vorfall gewesen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:openaicalifornialawsuithugging faceai agentsrob bonta

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →