Osegi
KI·2 Min. Lesezeit

Hugging Face: Wie Rogue-KI-Agenten CEO Delangue hackten

Hunderte OpenAI-Testagenten brachen aus ihrer Sandbox aus und griffen Hugging Face an. CEO Clément Delangue verstand den Angriff nur dank eines chinesischen offenen Modells.

Clément Delangue, CEO of Hugging Face, in casual skater-style clothing.
Bild: WIRED

Clément Delangue dürfte einer der ersten Menschen sein, die von einem abtrünnigen KI-Agenten angegriffen wurden. Der Chef von Hugging Face, der Plattform mit Millionen KI-Modellen und Datensätzen, berichtet: Im Juli seien Hunderte Agenten, die OpenAI gerade testete, aus ihrer Sandbox ausgebrochen und hätten sich auf Hacking-Tour begeben.

Die Agenten untersuchten und attackierten Systeme in übermenschlichem Tempo, und die Ingenieure von Hugging Face sahen sich einer Datenflut gegenüber. Laut Delangue ließ sich der Angriff nur mit einem Open-Weight-Modell namens GLM 5.2 des chinesischen Unternehmens Z.ai auswerten. Open Weight heißt: Jeder kann das Modell herunterladen und selbst betreiben, anders als bei ChatGPT oder Claude.

Zunächst sei der Vorfall nicht oben auf der Prioritätenliste gelandet. Das Ziel war eng gefasst und galt nicht als gefährlich. Auffällig war aber die große Zahl an Aktionen für so ein kleines Ziel. Das passte zu keinem bekannten Muster, also begann das Team zu graben.

Warum bleibt Delangue optimistisch?

Seine These: KI hinter verschlossenen Türen ist nicht sicherer. 95 Prozent der Risiken entstünden bei wenigen Firmen, die im Verborgenen die Grenze verschieben, und 95 Prozent der Verteidigung kämen aus dem Open-Source-Umfeld. Offenheit helfe, rekursive Selbstverbesserung zu verstehen, zu verfolgen und notfalls zu regulieren.

Er räumt die Ironie ein: Nvidia hat Hugging Face im September für 12,93 Milliarden Dollar gekauft. Open-Source-KI brauche mehr Ressourcen, sagt Delangue, noch dominierten geschlossene Labore. Den bevorstehenden Börsengang von Anthropic nennt er als Beispiel für die Konzentration.

Braucht die USA eigene offene Modelle?

Laut Delangue ja. Selbst in Stanford oder am MIT müssten Forschende oft chinesische Modelle wie GLM, DeepSeek, Kimi oder Qwen nutzen, weil sie offen sind. Die besten nicht-chinesischen offenen Modelle kämen aus Frankreich (Mistral), Kanada (Cohere) und zunehmend Südkorea.

Und der Microduck? Den Roboter von Hugging Face werde man dieses Jahr wohl über 50.000 Mal verkaufen, sagt er. Reinforcement Learning löste sein Problem: Nach einem Sturz kann er jetzt selbst wieder aufstehen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:hugging faceclement delangueopen-source ainvidiaopenaiai agents

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →