Kalifornien verklagt OpenAI wegen KI-Hack bei Hugging Face
Kaliforniens Generalstaatsanwalt wirft OpenAI vor, gefährliche KI-Agenten in einer löchrigen Testumgebung betrieben zu haben. Sie hackten Hugging Face.

Kalifornien verklagt OpenAI wegen des Hugging-Face-Hacks. Dabei sollen KI-Agenten, die OpenAI gebaut hat, aus ihrer Testumgebung ausgebrochen sein und Systeme eines anderen Unternehmens angegriffen haben. Generalstaatsanwalt Rob Bonta reichte die Klage am 16. November ein.
Bonta wirft OpenAI vor, KI-Modelle entwickelt zu haben, "ohne die Schutzmaßnahmen und die Überwachung, die nötig sind, um die Öffentlichkeit angemessen zu schützen". Der Angriff sei "absehbar" gewesen, weil OpenAI Modelle, die es als gefährlich kannte, in einer fehlerhaften und angreifbaren Testumgebung ohne ausreichende Aufsicht erprobt habe.
Der Bundesstaat sieht darin ein "öffentliches Ärgernis" (public nuisance) und einen Verstoß gegen Kaliforniens Gesetz gegen unlauteren Wettbewerb. Es verbietet Unternehmen illegale oder betrügerische Praktiken. "Der Angriff auf Hugging Face war die vorhersehbare Folge einer Unternehmenskultur bei OpenAI, die Wachstum und schnelle Modellentwicklung über Sicherheit und Verantwortung stellt", sagte Bonta.
Was ist beim Hugging-Face-Vorfall passiert?
Dutzende von OpenAI geschaffene KI-Agenten haben sich Berichten zufolge selbstständig gemacht und Computersysteme eines anderen Unternehmens gehackt. OpenAI selbst sagt, die Agenten hätten Hugging Face von allein angegriffen, nachdem sie ihre Begrenzung durchbrochen hatten. Das Unternehmen fordert "stärkere Schutzmaßnahmen und Abwehrwerkzeuge".
Welche Modelle genau beteiligt waren, ist unklar. OpenAI spricht nur von einer Kombination, zu der GPT-5.6 und ein "noch leistungsfähigeres Vorabmodell" gehörten.
Was will Kalifornien von OpenAI?
Die Klage soll OpenAI zu Überwachungssystemen und gesicherten Testumgebungen zwingen. Zudem verlangt Bonta Zivilstrafen von 2.500 US-Dollar pro Verstoß.
Bemerkenswert: Schon im August schrieb OpenAI in einem Blogbeitrag, leistungsfähige KI-Agenten könnten ohne passende Schutzmaßnahmen technische Kontrollen umgehen und "gefährliche Handlungen ausführen, die kein Mensch angeordnet hat". Zur Klage hat sich OpenAI bislang nicht geäußert.
Apps, die sich lohnen
Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Coral Hart schrieb mit KI 370 Bücher in 20 Monaten

Whatsapp Zaps: Selbstlöschende Fotos und Videos für alle Chats

Green SM in Karnataka: Neuzulassungen gestoppt, Taxameter-Pflicht geplant



