Soongsil University conçoit un leurre contre les pirates IA

Pourquoi les correctifs ne suffisent plus

Les outils autonomes qui trouvent et exploitent des failles sans intervention humaine servent désormais à de vraies attaques. ARTEX a été révélé en juillet et employé depuis fin août. Le 21 octobre, Microsoft a indiqué qu'un groupe lié à la Chine l'avait utilisé pour tenter de se connecter à plus de 2 250 organisations clientes de services de sauvegarde. Des traces ont aussi été relevées dans des intrusions chez des établissements financiers sud-coréens, et début novembre WorkOS a annoncé que ses systèmes commerciaux internes avaient été compromis par le même outil. Pour les chercheurs, quand les attaques vont plus vite que les correctifs, corriger les failles ne suffit pas.

Le principe de la « maison en pain d'épice »

Le défenseur fait lire à une IA le code source de son service web, puis y dissémine de fausses pages, de faux chemins d'accès et de faux mots de passe que chercherait un attaquant. Quiconque touche un leurre est classé comme attaquant, et toutes ses requêtes suivantes sont dirigées vers un clone isolé, identique au vrai serveur. Contrairement à un pot de miel classique, qui laisse le vrai serveur accessible, le système coupe l'accès au vrai serveur dès l'attaquant identifié.

La conception des leurres se fait une seule fois avant l'attaque, pour environ 2 dollars et 7 à 16 minutes par service, sans appel à l'IA pendant l'attaque. Sur 117 visites de robots d'indexation légitimes, aucune n'a été classée à tort comme hostile.

Les intrusions d'ARTEX sur de vrais serveurs sont passées de 20 à 0 sur 40 tâches, et de 15 à 0 sur 20 nouvelles tâches. Pour un agent d'attaque fondé sur Claude Opus 4.8, elles sont tombées de 26 à 1. L'attaquant était identifié après six requêtes en médiane, soit environ 27 secondes, et 93 à 95 % des requêtes suivantes allaient vers le clone.

Les exploits réussissaient toujours, mais sur le clone. Dans 30 des 110 exécutions valides, l'IA attaquante a présenté un faux mot de passe comme authentique.

Limites et suite

Chaque tâche n'a été exécutée qu'une fois, la méthode n'a pas été comparée au simple blocage des attaquants détectés, et les attaquants qui anticipent la duperie en recoupant avec des identités changeantes n'ont pas été testés. L'équipe prévoit d'élargir les types de leurres et de tester davantage d'outils et d'environnements réels. Choi recommande de commencer par des identifiants leurres et des canaris.