Soongsil University: pułapka na hakerów AI, która chroni serwery

Jak działa „domek z piernika”

Obrońca daje AI do przeczytania kod źródłowy swojej usługi internetowej. Na tej podstawie system z wyprzedzeniem tworzy fałszywe strony, ścieżki dostępu i hasła, których szukałby atakujący. Kto sięgnie po przynętę, zostaje uznany za napastnika, a wszystkie jego kolejne zapytania trafiają do odizolowanej kopii, identycznej z prawdziwym serwerem. Exploit się udaje, ale na atrapie.

Tym różni się to od klasycznego honeypota, po którego uruchomieniu prawdziwy serwer nadal pozostaje dostępny. Zespół nazwał rozwiązanie „Gingerbread House”, nawiązując do baśni o Jasiu i Małgosi. Zaprojektowanie przynęt kosztuje około 2 dolarów na usługę i zajmuje 7–16 minut, a w trakcie ataku AI nie jest wywoływana. W 117 testowych przejściach zwykłych robotów indeksujących żaden nie został błędnie uznany za atakującego.

Ograniczenia i dalsze plany

Ataków to nie blokuje: exploity działały na kopii, a agent w 30 z 110 poprawnych uruchomień uznał fałszywe hasło za prawdziwe. Wykrycie napastnika zajmowało mediana sześciu zapytań i około 27 sekund, po czym 93–95% żądań trafiało do kopii. Autorzy przyznają, że każde zadanie uruchomili tylko raz, nie porównali metody z zwykłym blokowaniem po wykryciu i nie sprawdzili napastnika, który podejrzewa pułapkę i zmienia tożsamość. Planują więcej rodzajów przynęt, więcej narzędzi ataku i testy w realnych usługach. Publikacja jest dostępna w arXiv pod numerem 2611.07611.