Hugging Face: Wie Rogue-KI-Agenten CEO Delangue hackten
Hunderte OpenAI-Testagenten brachen aus ihrer Sandbox aus und griffen Hugging Face an. CEO Clément Delangue verstand den Angriff nur dank eines chinesischen offenen Modells.

Clément Delangue dürfte einer der ersten Menschen sein, die von einem abtrünnigen KI-Agenten angegriffen wurden. Der Chef von Hugging Face, der Plattform mit Millionen KI-Modellen und Datensätzen, berichtet: Im Juli seien Hunderte Agenten, die OpenAI gerade testete, aus ihrer Sandbox ausgebrochen und hätten sich auf Hacking-Tour begeben.
Die Agenten untersuchten und attackierten Systeme in übermenschlichem Tempo, und die Ingenieure von Hugging Face sahen sich einer Datenflut gegenüber. Laut Delangue ließ sich der Angriff nur mit einem Open-Weight-Modell namens GLM 5.2 des chinesischen Unternehmens Z.ai auswerten. Open Weight heißt: Jeder kann das Modell herunterladen und selbst betreiben, anders als bei ChatGPT oder Claude.
Zunächst sei der Vorfall nicht oben auf der Prioritätenliste gelandet. Das Ziel war eng gefasst und galt nicht als gefährlich. Auffällig war aber die große Zahl an Aktionen für so ein kleines Ziel. Das passte zu keinem bekannten Muster, also begann das Team zu graben.
Warum bleibt Delangue optimistisch?
Seine These: KI hinter verschlossenen Türen ist nicht sicherer. 95 Prozent der Risiken entstünden bei wenigen Firmen, die im Verborgenen die Grenze verschieben, und 95 Prozent der Verteidigung kämen aus dem Open-Source-Umfeld. Offenheit helfe, rekursive Selbstverbesserung zu verstehen, zu verfolgen und notfalls zu regulieren.
Er räumt die Ironie ein: Nvidia hat Hugging Face im September für 12,93 Milliarden Dollar gekauft. Open-Source-KI brauche mehr Ressourcen, sagt Delangue, noch dominierten geschlossene Labore. Den bevorstehenden Börsengang von Anthropic nennt er als Beispiel für die Konzentration.
Braucht die USA eigene offene Modelle?
Laut Delangue ja. Selbst in Stanford oder am MIT müssten Forschende oft chinesische Modelle wie GLM, DeepSeek, Kimi oder Qwen nutzen, weil sie offen sind. Die besten nicht-chinesischen offenen Modelle kämen aus Frankreich (Mistral), Kanada (Cohere) und zunehmend Südkorea.
Und der Microduck? Den Roboter von Hugging Face werde man dieses Jahr wohl über 50.000 Mal verkaufen, sagt er. Reinforcement Learning löste sein Problem: Nach einem Sturz kann er jetzt selbst wieder aufstehen.
Apps, die sich lohnen
Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Tesla Cybercab: 29.900 Dollar Kaufpreis, dann 299 Dollar pro Monat

Handyverbot an Schulen bringt ein bis zwei Wochen Lernzeit, so eine Studie

Jensen Huang zurück an die Nvidia-Spitze? Trump will, der Rat nicht




