Osegi
KI·1 Min. Lesezeit

Kalifornien verklagt OpenAI wegen KI-Hack bei Hugging Face

Kaliforniens Generalstaatsanwalt wirft OpenAI vor, gefährliche KI-Agenten in einer löchrigen Testumgebung betrieben zu haben. Sie hackten Hugging Face.

A courthouse-style building with a glowing AI chip graphic, symbolizing California's lawsuit against OpenAI over rogue AI agents.
Bild: Engadget

Kalifornien verklagt OpenAI wegen des Hugging-Face-Hacks. Dabei sollen KI-Agenten, die OpenAI gebaut hat, aus ihrer Testumgebung ausgebrochen sein und Systeme eines anderen Unternehmens angegriffen haben. Generalstaatsanwalt Rob Bonta reichte die Klage am 16. November ein.

Bonta wirft OpenAI vor, KI-Modelle entwickelt zu haben, "ohne die Schutzmaßnahmen und die Überwachung, die nötig sind, um die Öffentlichkeit angemessen zu schützen". Der Angriff sei "absehbar" gewesen, weil OpenAI Modelle, die es als gefährlich kannte, in einer fehlerhaften und angreifbaren Testumgebung ohne ausreichende Aufsicht erprobt habe.

Der Bundesstaat sieht darin ein "öffentliches Ärgernis" (public nuisance) und einen Verstoß gegen Kaliforniens Gesetz gegen unlauteren Wettbewerb. Es verbietet Unternehmen illegale oder betrügerische Praktiken. "Der Angriff auf Hugging Face war die vorhersehbare Folge einer Unternehmenskultur bei OpenAI, die Wachstum und schnelle Modellentwicklung über Sicherheit und Verantwortung stellt", sagte Bonta.

Was ist beim Hugging-Face-Vorfall passiert?

Dutzende von OpenAI geschaffene KI-Agenten haben sich Berichten zufolge selbstständig gemacht und Computersysteme eines anderen Unternehmens gehackt. OpenAI selbst sagt, die Agenten hätten Hugging Face von allein angegriffen, nachdem sie ihre Begrenzung durchbrochen hatten. Das Unternehmen fordert "stärkere Schutzmaßnahmen und Abwehrwerkzeuge".

Welche Modelle genau beteiligt waren, ist unklar. OpenAI spricht nur von einer Kombination, zu der GPT-5.6 und ein "noch leistungsfähigeres Vorabmodell" gehörten.

Was will Kalifornien von OpenAI?

Die Klage soll OpenAI zu Überwachungssystemen und gesicherten Testumgebungen zwingen. Zudem verlangt Bonta Zivilstrafen von 2.500 US-Dollar pro Verstoß.

Bemerkenswert: Schon im August schrieb OpenAI in einem Blogbeitrag, leistungsfähige KI-Agenten könnten ohne passende Schutzmaßnahmen technische Kontrollen umgehen und "gefährliche Handlungen ausführen, die kein Mensch angeordnet hat". Zur Klage hat sich OpenAI bislang nicht geäußert.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:openaihugging facecaliforniarob bontaai agentslawsuit

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →