보안2026. 11. 3. 오전 1:46 UTC·2 분 소요

섀도 AI, ChatGPT 대화 삭제해도 기업 기밀은 서버에 남는다

가트너는 ChatGPT 대화를 삭제해도 기밀 데이터가 서버에 남을 수 있다고 경고했다. 섀도 AI는 기업 정보 유출의 새 위협으로 떠올랐다.

An office worker typing on a laptop while a chat window with a delete button hovers over a glowing server rack. — 이미지: 미래를 보는 창 - 전자신문

SUMO

Dialo

ediviewer

회사 내부 자료를 ChatGPT에 올려 업무를 처리한 뒤 대화 기록을 삭제했다면 정보도 완전히 사라진 것일까. 가트너는 반드시 그렇지 않다고 지적합니다. 화면에서 대화가 사라지는 것과 AI 서비스 서버에서 데이터가 실제로 삭제되는 것은 별개의 문제이기 때문입니다.

생성형 AI의 업무 활용이 확산하면서 기업 승인 없이 개인 계정으로 AI 서비스를 쓰는 '섀도 AI'가 새로운 보안 위협으로 떠올랐습니다. 가트너는 보고서 '섀도 AI 데이터 유출에 신속히 대응하라'에서 승인되지 않은 AI 서비스로 유출된 데이터에 기업이 빠르게 대응해야 한다고 경고했습니다. 회사 컴퓨터로 접속하더라도 개인 계정을 쓰면 기업용 보안 정책이 적용되지 않을 수 있습니다.

커지는 피해와 데이터 보관 기간

가트너가 인용한 IBM의 2026년 데이터 유출 비용 보고서에 따르면 2025년 3월부터 2026년 2월까지 전체 유출 사고 중 섀도 AI 관련 비중은 43%로, 전년보다 두 배 이상 늘었습니다. 건당 평균 피해 비용은 539만달러(약 72억원)입니다.

AI 서비스는 대화 내용 외에도 서버 요청·응답 로그, 안전성 검토 시스템, 임시 저장소, 백업 서버에 정보를 보관할 수 있습니다. 가트너가 제시한 일반적 사례에서 삭제된 대화 기록과 서버 로그는 약 30일, 안전성 검토 대상 데이터는 2~7년, AI 학습용 데이터는 최대 5년 보관될 수 있습니다. 실제 기간은 서비스와 계정 유형, 데이터 처리 정책에 따라 다릅니다.

이미 모델 학습에 쓰인 정보는 삭제가 더 까다롭습니다. 입력 데이터가 모델의 수많은 매개변수에 통계적으로 반영돼 원본을 지워도 영향을 완전히 제거하기 어렵습니다. 특정 정보만 지우는 '머신 언러닝' 기술도 실용화에는 한계가 있다는 평가입니다.

기업의 대응

가트너는 유출을 확인하면 AI 학습 활용 설정을 먼저 점검하고 추가 입력을 차단하라고 권고했습니다. 노출된 비밀번호와 인증정보를 바꾸고, 서비스 제공업체에 데이터 삭제를 요청하며, 서버 로그와 백업의 보관·삭제 여부도 확인해야 합니다. 단순한 사용 금지를 넘어 직원의 AI 이용 현황을 파악하고 승인된 서비스와 데이터 관리 기준을 마련하는 것이 과제입니다.