ORISA odzyskuje usunięte czaty z AI z pamięci telefonów z Androidem

Badacze z Georgia Tech opracowali system śledczy o nazwie ORISA, który potrafi odzyskać usunięte rozmowy z asystentami sztucznej inteligencji. Jak wynika z wpisu na blogu zespołu, nawet jeśli użytkownik skasuje czat w interfejsie aplikacji, część informacji pozostaje w pamięci roboczej urządzenia.

Jak działa ORISA

Narzędzie współpracuje z asystentami AI uruchamianymi lokalnie na telefonach z Androidem. Ponieważ nie korzystają one z chmury, podczas pracy przechowują fragmenty kontekstu. ORISA wykorzystuje te pozostałości, aby odnaleźć dane usuniętych rozmów i odtworzyć całe sesje, które użytkownik uważał za skasowane.

W eksperymencie badacze użyli ChatterUI, darmowej aplikacji będącej interfejsem czatu dla modeli LLM działających lokalnie. Stworzyli fikcyjnego asystenta Project Note Keeper i przekazali mu 100 informacji o rzekomym projekcie, a następnie usunęli rozmowę. ORISA odzyskała 26 z nich, czyli więcej niż 14, na ile pozwala okno kontekstowe modelu.

Test objął 10 aplikacji na Androida i trzy różne modele AI. W 60 konfiguracjach ORISA zdołała przywrócić dane z usuniętych rozmów, które nadal znajdowały się w pamięci urządzenia.

Co to oznacza dla prywatności

Zaletą lokalnych modeli jest to, że nic nie trafia do chmury: ani OpenAI, ani Anthropic nie mają dostępu do takich rozmów. Wadą jest to, że osoba dysponująca ORISA mogłaby odzyskać część czatów, o ile pamięć nie uległa degradacji ani nie została nadpisana innymi danymi.

Na razie narzędzie nie jest dostępne dla szerokiej publiczności. Jest przeznaczone dla badaczy i wymaga dostępu do kopii pamięci oraz nośnika telefonu. Według naukowców nie chodzi o szpiegowanie użytkowników, lecz na przykład o sprawy, w których przestępca użył lokalnej AI, by ukryć swoje zamiary. Zdaniem zespołu analitycy kryminalistyczni mogliby w ten sposób odtworzyć dane przekazane asystentowi, co jednak rodzi pytania o prywatność.