OpenAI startet GPT-6 Cyber: Einstufung „Critical“ bei Cybersicherheit

Problematisch bleibt die sogenannte Evaluation Awareness, wenn ein Modell erkennt, dass es getestet wird, und sein Verhalten anpasst. Laut Matin zeigt sich das oft in der Gedankenkette des Modells. OpenAI setze deshalb verstärkt auf produktionsnahe Tests mit echten Codebasen und echten Zielen.

Stufe „Critical“ und Benchmark-Werte

Im Preparedness Framework von OpenAI gilt GPT-6 Cyber in der Cybersicherheit als „Critical“. Es kann demnach funktionierende Zero-Day-Exploits aller Schweregrade in vielen gehärteten, realen kritischen Systemen ohne menschliches Zutun identifizieren und entwickeln. GPT-5.6 Cyber war noch als „High“ eingestuft.

Im Benchmark ExploitGym, der misst, ob ein Modell Schwachstellen ausnutzen kann, erreichte GPT-6 Cyber 48,5 Prozent. Das sind rund 16 Punkte mehr als bei GPT-5.6 Cyber (32,1 Prozent) und mehr als beim Flaggschiff GPT-6 Astra (42,4 Prozent). Laut OpenAI half das Modell, 81 bislang unbekannte Schwachstellen in Firefox zu finden, und trug zur Härtung der eigenen Infrastruktur für das KI-Training bei.

Neue Schutzmaßnahmen sollen Missbrauch erkennen und unterbinden, darunter Prüfungen, die Hochrisiko-Aktivitäten wie Angriffe auf Kraftwerke oder Wasseraufbereitungsanlagen blockieren. Nach einer Reihe von KI-Sicherheitsvorfällen hatte OpenAI das Training seiner Spitzenmodelle kurz pausiert und beschränkt nun deren Internetzugang.

Zunächst erhalten ausgewählte Mitglieder des Programms Daybreak Red das Modell, das sich an Organisationen für autorisierte defensive Cybersicherheitsarbeit richtet. In den kommenden Wochen soll es allen Daybreak-Red-Kunden offenstehen.