ORISA, silinen yapay zeka sohbetlerini Android belleğinden geri getiriyor

Georgia Tech araştırmacıları, yapay zeka asistanlarıyla yapılan silinmiş konuşmaları geri getirebilen ORISA adlı yeni bir adli bilişim sistemi geliştirdi. Ekibin blog yazısına göre, kullanıcı bir sohbeti uygulama arayüzünden silse bile bilgilerin bir kısmı cihazın çalışma belleğinde kalmaya devam ediyor.

ORISA nasıl çalışıyor?

Araç, Android telefonlarda yerel olarak çalışan yapay zeka asistanlarıyla uyumlu. Bu asistanlar bulut hizmetlerine bağlı olmadığı için çalışırken bağlam parçalarını saklıyor. ORISA bu kalıntılardan yararlanarak silinmiş konuşmaların verilerini buluyor ve kullanıcının yok olduğunu sandığı oturumları yeniden oluşturuyor.

Araştırmacılar denemede, yerel çalışan LLM modelleri için ücretsiz bir sohbet arayüzü olan ChatterUI'ı kullandı. Project Note Keeper adlı hayali bir asistan oluşturup ona varsayımsal bir projeyle ilgili 100 bilgi verdiler, ardından konuşmayı sildiler. ORISA bunlardan 26'sını geri getirdi; bu sayı, modelin bağlam penceresinin izin verdiği 14 bilgiden de fazla.

Çalışma 10 Android uygulamasını ve üç farklı yapay zeka modelini kapsadı. Toplam 60 yapılandırmada ORISA, cihaz belleğinde duran silinmiş konuşmalardan bilgi geri yüklemeyi başardı.

Gizlilik açısından anlamı

Yerel modellerin avantajı, hiçbir şeyin buluta yüklenmemesi: OpenAI da Anthropic de bu konuşmalara erişemiyor. Ancak ORISA'ya erişen biri, bellek bozulmamış veya başka verilerle üzerine yazılmamışsa sohbetlerin bir bölümünü kurtarabilir.

Şimdilik ORISA'nın genel kullanıcılara yönelik bir sürümü yok. Araç araştırmacılar için tasarlandı ve telefonun bellek ile depolama kopyalarına erişim gerektiriyor. Bilim insanlarına göre amaç kullanıcıları gözetlemek değil; örneğin bir suçlunun niyetinin izlenmemesi için yerel yapay zeka kullandığı durumlarda delil sağlamak. Adli bilişim uzmanları böylece kullanıcının asistanıyla paylaştığı verileri yeniden oluşturabilir, ancak bu durum gizlilik sorunu da doğurabilir.