ORISA、AndroidのメモリからAIチャットの削除履歴を復元

米ジョージア工科大学の研究者らが、AIアシスタントとの削除済みの会話を復元できるフォレンジックシステム「ORISA」を開発した。研究チームのブログによると、ユーザーがアプリ上でチャットを削除しても、情報の一部は端末の作業メモリに残る場合があるという。

ローカルAIが残すメモリの断片

ORISAの対象は、Android端末上でローカル実行されるAIアシスタントだ。クラウドに依存しないため、動作中は文脈の断片をメモリ内に保持する。ツールはこの痕跡から削除された会話のデータを探し出し、セッション全体を再構築する。

実験では、ローカルで動くLLM向けの無料チャットアプリ「ChatterUI」を使用した。架空のアシスタント「Project Note Keeper」に、架空のプロジェクトに関する100件の情報を与えたうえで会話を削除。ORISAは26件の情報を取り出してセッションを復元した。これはモデルのコンテキストウィンドウが許容する14件を上回る数だ。

検証はAndroidアプリ10本、AIモデル3種で実施した。計60の構成すべてで、端末メモリに残っていた削除済み会話の情報を復元できたという。

プライバシーへの影響

AIを端末内で動かす利点は、データがクラウドに送られず、OpenAIやAnthropicなどにも会話が渡らない点にある。一方、ORISAを使えば、メモリが劣化したり別のデータで上書きされたりしていない限り、チャットの一部を取り出せる可能性がある。

ORISAは現時点で一般向けには公開されていない。研究者向けのツールで、端末のメモリとストレージのコピーが必要になる。研究チームは利用者の監視を目的としたものではないと説明しており、犯罪者が意図を追跡されないようローカルAIを使ったケースの捜査などでの活用を想定している。