ORISA восстанавливает удалённые чаты с ИИ из памяти Android-смартфонов

Исследователи из Georgia Tech разработали криминалистическую систему ORISA, способную восстанавливать удалённые разговоры с ИИ-ассистентами. Как следует из публикации в блоге команды, даже если пользователь удалил чат в интерфейсе приложения, часть информации остаётся в рабочей памяти устройства.

Как работает ORISA

Инструмент подходит для ИИ-ассистентов, которые запускаются локально на Android-смартфонах. Поскольку они не зависят от облака, во время работы они хранят фрагменты контекста. ORISA использует эти остатки, чтобы найти данные удалённых разговоров и восстановить целые сессии, которые пользователь считал стёртыми.

В эксперименте исследователи применили ChatterUI — бесплатное приложение-интерфейс для LLM-моделей, работающих локально. Они создали вымышленного ассистента Project Note Keeper, передали ему 100 фактов о гипотетическом проекте и удалили разговор. ORISA вернула 26 фактов — больше, чем 14, которые допускает контекстное окно модели.

Тест охватил 10 Android-приложений и три разные ИИ-модели. В 60 конфигурациях ORISA удалось восстановить данные удалённых разговоров, сохранившиеся в памяти устройства.

Что это значит для приватности

Преимущество локальных моделей в том, что ничего не уходит в облако: ни OpenAI, ни Anthropic не получают доступ к таким беседам. Недостаток в том, что человек с доступом к ORISA мог бы восстановить часть чатов, если память не деградировала и не была перезаписана другими данными.

Пока публичной версии ORISA нет. Инструмент предназначен для исследователей и требует доступа к копиям памяти и хранилища телефона. По словам учёных, цель не в слежке за пользователями: он может пригодиться, например, когда преступник использовал локальный ИИ, чтобы скрыть свои намерения. Криминалисты смогут восстановить данные, которыми человек поделился с ассистентом, однако это может создавать риски для приватности.