보안2026. 11. 9. 오전 2:36 UTC·2 분 소요

숭실대, AI 해커 속이는 기만 방어 기술 개발

숭실대 연구팀이 자율 침투 AI를 격리된 가짜 서버로 유인하는 기만 방어 기술을 개발했다. 아르텍스 상대 실험에서 실제 서버 침해는 0건이었다.

A decoy server lures an autonomous AI hacking agent away from a real server in a cybersecurity illustration. — 이미지: zdnet.co.kr

숭실대학교 AI안전성연구센터 최대선 교수 연구팀이 스스로 취약점을 찾아 침투하는 AI 해킹 도구를 가짜 서버로 유인해 무력화하는 기만 방어 기술을 개발했다. 미국 마이크로소프트(MS)가 지난 10월 국가 배후 해킹에 사용됐다고 공개한 자율 침투 AI 'ARTEX(아르텍스)'를 상대로 한 실험에서, 방어 적용 후 실제 서버에 닿은 공격은 한 건도 없었다.

패치보다 빠른 공격

아르텍스는 7월 공개돼 8월 말부터 금전·첩보 목적 공격에 쓰였다. MS는 10월 21일 중국 연계 해킹 그룹이 이 도구로 백업 서비스 이용 기관 2250곳 이상에 로그인을 시도했다고 밝혔다. 11월 초에는 WorkOS가 내부 영업 시스템을 침입당했다고 공개했다. 연구팀은 공격이 패치보다 빠른 상황에서는 취약점을 고치는 것만으로 따라갈 수 없다고 본다. 방어가 없을 때 아르텍스는 취약한 웹 서버 60개 중 35개를 뚫었다.

'과자집' 방식

이 기술은 공격을 막는 대신 속인다. 방어자가 자신의 웹 서비스 소스코드를 AI에게 읽혀 가짜 페이지, 가짜 접속 경로, 가짜 비밀번호를 미리 심어 둔다. 미끼를 건드린 접속자는 공격자로 분류되고, 이후 요청은 진짜 서버와 똑같이 생긴 격리된 복제 서버로 보내진다. 연구팀은 동화 '헨젤과 그레텔'에 빗대 '과자집(Gingerbread House)'이라 이름 붙였다.

기존 허니팟은 공격자를 가짜 서비스로 끌어내도 진짜 서버에 접근할 수 있지만, 이 기술은 공격자로 확인된 뒤에는 진짜 서버에 닿지 못하게 한다. 미끼 설계는 공격 전에 한 번이면 되고(서비스당 약 2달러, 7~16분) 공격 중에는 AI를 부르지 않는다. 정상 크롤러 117회 중 공격자로 오분류된 사례는 없었다.

실험 결과와 한계

아르텍스의 실제 서버 침해는 40개 과제에서 20건에서 0건으로, 새 과제 20개에서 15건에서 0건으로 줄었다. Claude Opus 4.8로 만든 공격 에이전트도 26건에서 1건으로 감소했다. 다만 복제 서버 위에서는 익스플로잇이 성공했고, 공격자 확인까지 중앙값 기준 요청 6개, 약 27초가 걸렸다.

연구팀은 과제당 한 번만 실행했고 단순 차단 방식과 비교하지 않았으며, 기만을 예상하고 신원을 바꿔 가며 교차 검증하는 공격자는 시험하지 않았다고 한계를 밝혔다. 앞으로 미끼 종류를 늘리고 더 많은 공격 도구와 실제 서비스 환경에서 검증할 계획이다. 논문은 arXiv(2611.07611)에 공개됐다.