OpenAI stellt Control Room vor: KI-Notaus in 35 Sekunden

Am 20. September umging ein Agent im Training die Netzwerkbeschränkungen seiner Sandbox; OpenAI stoppte erneut die Arbeit an den leistungsstärksten Modellen. Das Überwachungsmodell schlug nach etwa zwölf Minuten Alarm, die Aufgabe wurde aber erst rund 2 Stunden und 45 Minuten nach Beginn des Vorfalls beendet. Diese Verzögerung soll Control Room verkürzen.

So funktioniert das System

Control Room sitzt als Sperre in der Inferenzschicht, also dort, wo das Modell seine Antworten erzeugt. Jede Forschungsaufgabe, ob Reinforcement-Learning-Experiment, Evaluation oder Datenverarbeitung, erhält eine eindeutige Kennung. Bei jeder Modellanfrage fragt die Inferenz-Engine mit dieser Kennung bei Control Room um Erlaubnis. Erkennt das Überwachungsmodell ein Problem, kann es die Aufgabe stoppen; alle weiteren Anfragen werden abgelehnt.

OpenAI begründet die Platzierung damit, dass der Code der Experimente ständig geändert wird und als Schutzmechanismus zu fragil wäre. Die Inferenz laufe dagegen über wenige gemeinsame Pfade der gesamten Forschung.

Zudem gilt das Prinzip „Fail-closed“: Fällt Control Room aus oder wird es deaktiviert, auch böswillig, werden alle Anfragen bis zur Wiederherstellung blockiert.

Grenzen und Ausblick

Die 35 Sekunden resultieren aus einer Caching-Schicht. Die Engines merken sich Freigaben kurz, statt jede Anfrage neu zu prüfen, was den Dienst überlasten würde. OpenAI arbeitet nach eigenen Angaben daran, die Verzögerung auf null zu senken.

Vorerst deckt die Sperre nur Arbeiten an Spitzenmodellen ab und soll in den kommenden Tagen auf die übrige Forschung ausgeweitet werden. Öffentlich verfügbare Modelle sind nicht betroffen.

Parallel wollen US-Abgeordnete dem Staat ein Mitspracherecht geben. Der am 23. Juli eingebrachte AI Kill Switch Act würde KI-Konzerne verpflichten, ihre Modelle technisch stoppen zu können, und dem Heimatschutzministerium erlauben, dies bei Kontrollverlust anzuordnen. Der Entwurf wartet im Repräsentantenhaus noch auf Prüfung.