GPT-6 Cyber: OpenAI will Sicherheitslücken schneller aufspüren

Warnung aus der Praxis

Wie groß das Risiko durch Frontier-Modelle ist, zeigt der Fall von Max Justicz, Mitgründer und CTO des Startups Charge Robotics. Mit GPT-5.6 Sol von OpenAI entdeckte er nach eigenen Angaben eine Codeschwachstelle, über die Angreifer Server mit Ubuntu hätten übernehmen können. Zuvor hatte er bereits einen Fehler in derselben Codebasis gefunden und das Modell gebeten, ebenso schwerwiegende oder schlimmere Fehler zu suchen. „Innerhalb von zwei Stunden lieferte es mir dieses Ergebnis“, sagt er und nennt die Lücke extrem verschachtelt und für Menschen schwer auffindbar.

Justicz meldete das Problem dem Debian-Projekt, das die Software pflegt und einen Patch veröffentlichte. Hinweise auf eine Ausnutzung gibt es bislang nicht. Er gehört zum Programm „Daybreak Blue“, das KI-Entwicklern Zugang zu leistungsfähigen Frontier-Modellen gewährt. Auf X schrieb er, man solle damit rechnen, dass in den kommenden Monaten einige extrem verrückte Fehler entdeckt und ausgenutzt werden.

Millionenförderung und Kritik

OpenAI will die Daybreak-Programme ausweiten und mehr Forschern leistungsstarke Werkzeuge bereitstellen. Unternehmen blieben nur begrenzt Zeit, Lücken zu schließen, bevor Angreifer sie ausnutzten. Zudem kündigte das Unternehmen Prämien von einer Milliarde Dollar für Experten an, die kritische Infrastruktur wie Stromnetze oder Wasserversorgung absichern. Forscher Eric Wallace erklärte, OpenAI stelle derzeit einen erheblichen Teil seiner Frontier-Rechenleistung unentgeltlich bereit, um Lücken in Open-Source-Code zu finden.

Kritiker halten das dennoch für zu wenig. Nach Berechnungen von TechCrunch könnte OpenAI allein für das Navier-Stokes-Problem sechs Millionen Dollar ausgegeben haben, ohne ein reales Problem zu lösen. Das sorgte in der mathematischen Forschungsgemeinschaft für Ärger.