ORISA: Gelöschte KI-Chats lassen sich aus Android-Speicher holen

Einen Chat mit einem KI-Assistenten zu löschen, heißt nicht unbedingt, dass er verschwunden ist. Forscher des Georgia Tech haben mit ORISA ein forensisches System entwickelt, das gelöschte Unterhaltungen mit KI-Assistenten aus dem Speicher eines Android-Smartphones rekonstruieren kann. Das geht aus einem Beitrag im Blog des Instituts hervor.

Das Werkzeug zielt auf Assistenten, die lokal auf dem Gerät laufen und nicht in der Cloud. Da sie im Betrieb Kontextfragmente im Arbeitsspeicher behalten, können Spuren eines Gesprächs bestehen bleiben, auch wenn der Nutzer es in der App entfernt hat. ORISA findet diese Reste und baut daraus ganze Sitzungen wieder auf.

Was der Test zeigte

Für das Experiment nutzte das Team ChatterUI, eine kostenlose Chat-Oberfläche für Sprachmodelle im lokalen Betrieb. Die Forscher legten einen fiktiven Assistenten namens Project Note Keeper an, gaben ihm 100 Fakten zu einem erfundenen Projekt und löschten dann die Unterhaltung. ORISA stellte 26 Fakten wieder her, mehr als die 14, die das Kontextfenster des Modells fasst.

Laut Georgia Tech zeigt das, dass Speicherfragmente einer KI relevante Informationen enthalten können, selbst wenn das Modell sie nicht mehr aktiv nutzt. Die Untersuchung umfasste 10 Android-Apps und drei KI-Modelle. In insgesamt 60 Konfigurationen gelang es ORISA, Daten gelöschter Gespräche wiederherzustellen, die noch im Speicher lagen.

Folgen für den Datenschutz

Ein Modell direkt auf dem Handy zu betreiben gilt oft als die private Lösung: Es wird nichts hochgeladen, Anbieter wie OpenAI oder Anthropic sehen die Chats nie. Die Studie zeigt ein anderes Risiko. Wer ORISA besitzt, könnte Teile dieser Gespräche abrufen, sofern der Speicher nicht zerfallen oder mit anderen Daten überschrieben wurde.

Für die breite Öffentlichkeit ist ORISA nicht verfügbar. Das Werkzeug richtet sich an Forscher und benötigt Zugriff auf Abbilder von Arbeits- und Massenspeicher des Telefons. Die Wissenschaftler betonen, es gehe nicht um das Ausspähen von Nutzern. Es könne Ermittlern helfen, wenn ein Straftäter eine lokale KI nutzte, damit seine Absichten nicht nachverfolgt werden.