ORISA, 안드로이드 메모리서 삭제된 AI 채팅 복원

미국 조지아공대 연구진이 AI 어시스턴트와 나눈 삭제된 대화를 복원할 수 있는 포렌식 시스템 ORISA를 개발했습니다. 연구팀 블로그에 따르면 사용자가 앱 화면에서 채팅을 지워도 일부 정보는 기기의 작업 메모리에 남을 수 있습니다.

로컬 AI가 남기는 메모리 조각

ORISA는 안드로이드 기기에서 로컬로 실행되는 AI 어시스턴트를 대상으로 합니다. 클라우드에 의존하지 않는 이런 AI는 작동하는 동안 문맥 조각을 메모리에 보관합니다. 도구는 이 잔여 데이터에서 삭제된 대화의 정보를 찾아 전체 세션을 재구성합니다.

실험에는 로컬 LLM용 무료 채팅 앱 ChatterUI를 사용했습니다. 연구진은 가상의 어시스턴트 Project Note Keeper를 만들어 가상 프로젝트와 관련된 정보 100개를 입력한 뒤 대화를 삭제했습니다. ORISA는 세션 복원을 위해 26개 정보를 되살렸고, 이는 모델의 컨텍스트 윈도가 허용하는 14개보다 많은 수치입니다.

실험은 안드로이드 앱 10종과 AI 모델 3종으로 진행됐습니다. 총 60개 구성 모두에서 ORISA는 기기 메모리에 남아 있던 삭제 대화 정보를 복원했습니다.

프라이버시 영향

기기 내 AI의 장점은 데이터가 클라우드로 나가지 않아 OpenAI나 Anthropic이 대화에 접근하지 않는다는 점입니다. 그러나 메모리가 손상되거나 다른 정보로 덮어쓰이지 않았다면, ORISA를 가진 사람이 채팅 일부를 복구할 수 있습니다.

현재 ORISA는 일반에 공개되지 않았습니다. 연구자용 도구이며 휴대전화 메모리와 저장소의 사본이 필요합니다. 연구진은 사용자 감시가 목적이 아니라고 밝혔으며, 범죄자가 의도를 추적당하지 않으려고 로컬 AI를 사용한 사건 수사 등에 쓰일 수 있다고 설명합니다.