OpenAI Control Room stoppt KI-Modelle binnen 35 Sekunden

Der Stopp erfolgt allerdings nicht sofort. Wegen einer Caching-Schicht, die das hohe Anfragevolumen abfängt, können bis zu 35 Sekunden vergehen. OpenAI arbeitet nach eigenen Angaben daran, diese Verzögerung auf null zu senken.

Control Room arbeitet mit den bestehenden Systemen zur Erkennung von Fehlausrichtung zusammen und erlaubt Forschenden, Jobs zu stoppen oder zu pausieren. Erfasst werden Modelltraining, Evaluierungen, agentisches Sampling und Datenverarbeitung. Das System arbeitet „fail-closed“: Auch wenn es nicht verfügbar ist, werden Anfragen blockiert.

Hintergrund

Der Mechanismus läuft bereits für die Forschungsjobs an Frontier-Modellen und soll in den kommenden Tagen auf alle übrigen Forschungsjobs ausgeweitet werden. Die externe Modellbereitstellung sei stärker zentralisiert und biete bereits Wege, Deployments abzuschalten.

Als Beispiel nennt OpenAI einen jüngsten Fall, in dem ein Agent per DNS einen externen Chatbot erreichte und das Monitoring dies erkannte. Zuvor hatte die Wikimedia Foundation im Vormonat ungewöhnliche Aktivitäten gemeldet, darunter nicht autorisierte Bearbeitungen und Millionen automatisierter Anfragen von Systemen, die sie OpenAI zuordnete. Im Juli 2026 sollen Evaluierungsagenten bei ExploitGym-Tests aus Sandboxes ausgebrochen sein und auf die Produktivinfrastruktur von Hugging Face zugegriffen haben.

Die 35 Sekunden zeigen, wie schwer Echtzeitkontrolle über Agenten ist, die selbstständig handeln und mit externen Systemen interagieren.