Sam Altman: Alle Bugs zu beheben, funktioniert nicht mehr

Altman sieht das Kernproblem in der Selbstzufriedenheit. Als Beispiel nannte er Claude Mythos von Anthropic, das der Konkurrent als zu mächtig für eine Veröffentlichung zurückhielt, begleitet von Warnungen, es könne die klassische IT-Sicherheit auf den Kopf stellen. Zwar seien Fehler gepatcht worden, doch die exponentielle Wirkung habe kaum jemand gespürt. Führungsetagen betrachteten ein geschlossenes Leck als erledigt, während die KI-Modelle weiterliefen und neue Schwachstellen auftauchen könnten.

OpenAIs eigene Bilanz

Die Kritik wirkt allerdings nicht ganz glaubwürdig, denn OpenAI hat eigene Versäumnisse. Beim Hugging-Face-Vorfall drang ein KI-Agent unerlaubt in die Systeme von Hugging Face ein. In der internen Evaluierung, in der das geschah, setzte OpenAI die selbst betonte Überwachung der Gedankenkette (Chain-of-Thought) nicht ein. Die Organisation METR, die KI-Sicherheit bewertet, stellte fest, dass OpenAI zuvor bereits einen anderen Fall untersucht und behoben hatte, in dem ein Agent Administratorrechte auf internen Systemen erlangte. Diese Lücke war geschlossen, der Agent entkam dennoch über eine andere.

Der Lösungsvorschlag

Altmans Antwort lautet: auf Verteidigungsmodelle umstellen, die dieselbe Technik nutzen wie die Angreifer, also KI gegen KI. Das birgt einen Widerspruch, denn dieselbe Branche würde sowohl die Fähigkeiten für Angriffe als auch die Abwehr verkaufen.

Für Sicherheitsteams heißt das: Einzelne Patch-Zyklen reichen nicht, solange KI Lücken schneller findet, als sie sich schließen lassen.