Razvoj tehnologije umjetne inteligencije donosi nove izazove u zaštiti privatnosti korisnika mobilnih uređaja. Nedavno su istraživači sa Sveučilišta Georgia Tech razvili inovativan forenzički alat nazvan ORISA, koji može oporaviti izbrisane razgovore iz AI aplikacija koje se pokreću lokalno na Android telefonima. Ovakva tehnologija pokazuje da brisanje AI chatova s uređaja ne znači nužno njihovo potpuno uklanjanje iz memorije telefona.
AI asistenti koji se izvršavaju lokalno imaju prednost u privatnosti budući da ne šalju podatke na udaljene servere. No, prema istraživanju, čak i nakon brisanja razgovora, dijelovi tih podataka mogu ostati u radnoj memoriji uređaja. ORISA pronalazi i rekonstruira te preostale dijelove, što rezultira ponovnim oživljavanjem prethodnih AI sesija s dijelom njihovih sačuvanih činjenica i informacija.
Testiranje alata i implikacije za privatnost
Za demonstraciju su koristili izmišljeni AI asistent Project Note Keeper, koji koristi ChatterUI, open-source Android aplikaciju za lokalni rad AI modela. Unijeli su 100 činjenica o projektu, a zatim izbrisali razgovor. Izvorni asistent zadržao je u memoriji samo 14 tih činjenica, dok je ORISA uspjela vratiti čak 26 činjenica u obnovljenoj AI sesiji, čime je pokazala da podaci nisu u potpunosti uklonjeni.
Istraživači su testirali alat ORISA na deset Android aplikacija, trima AI modelima i sa šezdeset konfiguracija, potvrđujući dosljednost u oporavku podataka iz radne memorije. Ova spoznaja posebno je važna za korisnike koji koriste AI modele poput Googleove AI Edge Gallery, koja omogućava rad umjetne inteligencije u potpunosti na uređaju, bez internetske veze, što ne jamči potpuno brisanje lokalnih chat podataka.
Osim pitanja privatnosti korisnika, ova tehnologija može biti korisna i u forenzičkim ispitivanjima kada je potrebno rekonstruirati informacije koje su korisnici prethodno razmijenili s AI asistentima, čak i ako su te informacije naknadno izbrisane.
Važno je napomenuti da ovaj alat zahtijeva forenzički pristup podacima na uređaju i ne dokazuje mogućnost povrata razgovora iz cloud-based AI chatbota. Stoga trenutačna primjena i rizici odnose se prvenstveno na lokalno pohranjene AI aplikacije na Android uređajima.