Soongsil University entwickelt Täuschungsabwehr gegen KI-Hacker

Warum Patchen nicht reicht

Autonome Werkzeuge, die ohne menschliches Zutun Schwachstellen finden und ausnutzen, kommen inzwischen in realen Angriffen zum Einsatz. ARTEX wurde im Juli bekannt und wird seit Ende August genutzt. Am 21. Oktober erklärte Microsoft, eine China-nahe Gruppe habe damit bei mehr als 2.250 Organisationen mit Backup-Diensten Logins versucht. Spuren fanden sich auch bei Einbrüchen in südkoreanische Finanzunternehmen, und Anfang November teilte WorkOS mit, interne Vertriebssysteme seien mit demselben Werkzeug kompromittiert worden. Die Forscher gehen davon aus, dass Schwachstellenbehebung allein nicht mehr mithält, wenn Angriffe schneller sind als Patches.

So funktioniert das „Lebkuchenhaus“

Der Verteidiger lässt eine KI den Quellcode seines Webdienstes lesen und platziert gefälschte Seiten, Zugangspfade und Passwörter, nach denen ein Angreifer sucht. Wer einen Köder berührt, gilt als Angreifer; alle weiteren Anfragen gehen an einen isolierten Klon, der dem echten Server gleicht. Anders als bei einem klassischen Honeypot, bei dem der echte Server erreichbar bleibt, wird der Zugang zum echten Server nach der Identifizierung gekappt.

Der Köderentwurf erfolgt einmal vor dem Angriff und kostet rund 2 US-Dollar und 7 bis 16 Minuten pro Dienst; während des Angriffs wird keine KI aufgerufen. Von 117 legitimen Crawler-Besuchen wurde keiner fälschlich als Angreifer eingestuft.

Die Einbrüche von ARTEX in echte Server sanken bei 40 Aufgaben von 20 auf 0, bei 20 neuen Aufgaben von 15 auf 0. Bei einem Angriffsagenten auf Basis von Claude Opus 4.8 fielen sie von 26 auf 1. Angreifer wurden im Median nach sechs Anfragen und etwa 27 Sekunden erkannt, 93 bis 95 Prozent der folgenden Anfragen gingen an den Klon.

Exploits gelangen weiterhin, aber auf dem Klon. In 30 von 110 gültigen Durchläufen meldete die Angriffs-KI ein falsches Passwort als echt.

Grenzen und nächste Schritte

Jede Aufgabe wurde nur einmal ausgeführt, ein Vergleich mit dem bloßen Blockieren erkannter Angreifer fehlt, und Angreifer, die Täuschung erwarten und mit wechselnden Identitäten gegenprüfen, wurden nicht getestet. Das Team will mehr Ködertypen entwickeln und mit weiteren Angriffswerkzeugen und realen Umgebungen testen. Choi rät Organisationen, mit Köder-Zugangsdaten und Canaries zu beginnen.