Osegi
Sicherheit·2 Min. Lesezeit

KI-Hacker-Agenten: Google entdeckt Angriffe auf französische Seiten

Googles Sicherheitsteam hat ein Hacking-Tool gefunden, in dem KI-Agenten selbst Lücken suchen und angreifen. Die Täter ließen einen Server offen.

A dark server room with a glowing screen showing code and a red warning symbol, representing AI-driven hacking.
Bild: 01net.com

Google hat KI-Agenten entdeckt, die ohne menschliche Steuerung französische Websites angreifen. Verraten hat sie ein ziemlich menschlicher Fehler: Die Täter ließen einen bösartigen Server offen im Netz stehen.

Die Entdeckung stammt von der Google Threat Intelligence Group (GTIG). Im vergangenen Quartal habe man erstmals Angreifer beobachtet, die LLM-basierte Werkzeuge nutzen, um das Finden und Ausnutzen von Schwachstellen komplett zu automatisieren, „ohne Mensch in der Schleife“. Auf dem offenen Server fanden die Forscher ein Tool, das mehrere KI-Agenten auf Basis verschiedener Sprachmodelle gemeinsam Angriffe ausführen lässt. Dazu kamen Daten, die den Opfern gestohlen wurden.

Welche Websites sind betroffen?

Laut Bericht interessieren sich die Angreifer besonders für französische Seiten aus den Bereichen Medien und Unterhaltung sowie Bildung. Das Tool war auf Russisch konfiguriert, die Täter könnten also aus Russland stammen. Google ordnet die Kampagne aber keiner Gruppe und keinem Staat zu.

Wie funktioniert das KI-Hacking-Tool?

Es macht aus Sicherheitsupdates eine Anleitung. Das Tool vergleicht den Code vor und nach einem Patch, wertet die Unterschiede aus, erkennt die geschlossene Lücke, schreibt einen Exploit und führt ihn automatisch aus. Treffen soll es Seiten, die das Update noch nicht installiert haben.

John Hultquist, Chefanalyst der GTIG, sagt, Angreifer brauchen dafür keine Zero-Day-Lücken (also noch unbekannte Schwachstellen) mehr. Einen Patch per Reverse Engineering zu analysieren sei viel einfacher, als eine Zero-Day-Lücke zu suchen.

Ein Einzelfall ist das nicht. Google sah auch Kriminelle und Spione, die KI-gestützte Werkzeuge wie CAIRN, PentAGI oder CyberStrikeAI einsetzen. CrowdStrike zufolge haben vier weitere Banden Angriffe in den letzten Monaten an KI übergeben. Wie schnell das geht: GreyNoise entdeckte nur vier Tage nach der Veröffentlichung zweier Lücken in der Druckersoftware PaperCut eine KI-gestützte Kampagne gegen Hunderte Organisationen.

Eine gute Nachricht gibt es: Die KI ist nicht unfehlbar, einige der erzeugten Angriffsprogramme funktionierten schlicht nicht. Hultquist warnt trotzdem, Unternehmen müssten ihre Patch-Zyklen stark beschleunigen und könnten dabei vor schwierigen Entscheidungen stehen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:googlegtigai agentscyberattackvulnerabilitiesfrance

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: Sicherheit

Alle anzeigen →