ORISA : des chats IA supprimés récupérés dans la mémoire d'Android

Supprimer une conversation avec un assistant d'IA ne l'efface pas forcément. Des chercheurs du Georgia Tech ont conçu ORISA, un système d'investigation numérique capable de récupérer des échanges supprimés avec des assistants d'IA depuis la mémoire d'un téléphone Android, selon un article publié sur le blog de l'institut.

L'outil vise les assistants exécutés localement sur l'appareil, et non dans le cloud. Comme ils conservent des fragments de contexte dans la mémoire vive pendant leur fonctionnement, des traces d'une conversation peuvent subsister même après sa suppression dans l'interface de l'application. ORISA repère ces résidus et s'en sert pour reconstituer des sessions entières.

Ce que montre l'expérience

L'équipe a employé ChatterUI, une interface de discussion gratuite pour des modèles de langage exécutés en local. Elle a créé un assistant fictif, Project Note Keeper, lui a fourni 100 informations sur un projet imaginaire, puis a supprimé la conversation. ORISA a retrouvé 26 informations pour restaurer la session, soit davantage que les 14 permises par la fenêtre de contexte du modèle.

D'après le Georgia Tech, les fragments de mémoire laissés par une IA peuvent contenir des informations pertinentes même lorsque le modèle ne les utilise plus activement. L'étude a porté sur 10 applications Android et trois modèles d'IA. Sur 60 configurations au total, ORISA a réussi à restaurer des données de conversations supprimées encore présentes en mémoire.

Un enjeu pour la vie privée

Faire tourner un modèle sur son téléphone passe souvent pour la solution la plus respectueuse de la vie privée : rien n'est envoyé, et des fournisseurs comme OpenAI ou Anthropic ne voient jamais les échanges. La recherche met en lumière un autre risque : une personne disposant d'ORISA pourrait récupérer une partie de ces conversations, à condition que la mémoire ne se soit pas dégradée ou n'ait pas été écrasée par d'autres données.

ORISA n'est pas disponible pour le grand public. L'outil s'adresse aux chercheurs et nécessite l'accès à des copies de la mémoire et du stockage du téléphone. Les scientifiques précisent qu'il ne vise pas à espionner les utilisateurs, mais pourrait servir dans des affaires où un délinquant a utilisé une IA locale pour éviter que ses intentions soient tracées.