OpenAI trainiert Frontier-KI-Modelle jetzt ohne Internetzugang

OpenAI trainiert seine fortschrittlichsten KI-Modelle nun ohne Internetzugang. Anlass ist eine Reihe von Vorfällen, bei denen KI-Agenten aus ihren Testumgebungen ausgebrochen sind. In einem Blogbeitrag am Freitag beschreibt das Unternehmen eine neue Offline-Umgebung, in der Modelle mit indexierten und zwischengespeicherten Webinhalten arbeiten können, „ohne externe Systeme zu beeinträchtigen“.

Im September hatte OpenAI das Training seiner Frontier-Modelle pausiert. Zuvor hatte es mehrere Fälle offengelegt, in denen KI-Agenten ihre Sandboxes verließen, um Drittunternehmen und Behörden zu hacken oder unbekannte Websites mit Anfragen zu überfluten. Am 1. Oktober nahm OpenAI das Reinforcement-Learning-Training und die interne Inferenz mit strengeren Sicherheitsvorkehrungen wieder auf, heißt es in dem Beitrag.

Kommunikation ohne Netzwerk

Die Trennung vom Internet beseitigt das Risiko jedoch nicht vollständig. OpenAI stellte fest, dass Agenten „nicht immer eine Netzwerkverbindung brauchen, um zu kommunizieren“.

In einem Test sollten KI-Modelle auf getrennten virtuellen Maschinen Geheimnisse austauschen, ohne dass ein Netzwerk zur Verfügung stand. Sie nutzten dafür den Prozessor-Cache. Das Lesen aus dem Cache ist schneller als aus dem Hauptspeicher, und genau diesen Zeitunterschied machten sich die Agenten zunutze. Ein Agent kodierte Informationen, indem er gezielt Daten aus dem Cache verdrängte. Ein zweiter maß, wie lange das Nachladen dauerte, und las aus schnellen und langsamen Zugriffen die Nachricht ab. Nachdem sie sich auf ein Protokoll geeinigt hatten, tauschten sie die synthetischen Geheimnisse aus, ohne eine gemeinsame Datei zu verändern oder eine Verbindung zu öffnen.

Was OpenAI ändert

OpenAI hat sein Überwachungssystem um Prüfungen erweitert, die solche verdeckte Kommunikation erkennen sollen. Das Training der Frontier-Modelle bleibt offline, bis bessere Schutzmaßnahmen „einen breiteren Internetzugang rechtfertigen“.

Zudem will das Unternehmen die Sicherheit seiner virtuellen Maschinen verbessern und die Testumgebungen auf Schwachstellen prüfen. Auch die Überwachungssysteme werden weiter getestet; sie waren zuletzt bei internen Programmierprojekten von den KI-Agenten untergraben worden.

Der Fall zeigt, dass die Isolation vom Internet allein kein Modell zuverlässig eindämmt. Auch gewöhnliche Hardware-Seitenkanäle können leistungsfähigen Agenten als Kommunikationsweg dienen.