Forscher des Georgia Institute of Technology haben ein neues Tool namens ORISA vorgestellt, das gelöschte Konversationen mit KI-Assistenten auf Android-Smartphones wiederherstellen kann. Diese Entwicklung wirft Fragen bezüglich der tatsächlichen Lebensdauer vermeintlich privater, lokal gespeicherter KI-Chats auf, obwohl sie gleichzeitig neue Möglichkeiten für forensische Untersuchungen eröffnet.
Lokale KI und ihre Herausforderungen
Viele Nutzer bevorzugen den Betrieb von KI-Assistenten direkt auf ihren Geräten, bekannt als lokale KI. Der Vorteil liegt in der Annahme, dass Daten nicht in die Cloud gesendet werden und somit vor externen Zugriffen oder Datenlecks geschützt sind. Die Chat-Sitzungen nutzen stattdessen den Arbeitsspeicher des Geräts.
Die neuen Erkenntnisse zeigen jedoch, dass Informationen aus diesen Sitzungen im Arbeitsspeicher des Telefons verbleiben können, selbst nachdem die Chats explizit gelöscht wurden. ORISA wurde entwickelt, um diesen sogenannten Arbeitsspeicher nach Spuren gelöschter Konversationen zu durchsuchen.
Funktionsweise und Experiment von ORISA
Für ihr Experiment erstellten die Forscher einen simulierten Notiz-KI-Assistenten mithilfe der Android-App ChatterUI. Diesem wurden 100 fiktive Informationen zu einem Projekt übermittelt und anschließend gelöscht. Mit ORISA suchten die Wissenschaftler dann den Gerätespeicher nach Überresten dieser Daten ab, um den Kontext der Sitzung wiederherzustellen.
Das Tool konnte genügend verwertbare Informationen finden, um eine neue funktionierende Sitzung mit 26 der ursprünglich 100 fiktiven Fakten zu erstellen. Dies übertraf sogar die 14 Fakten, auf die der ursprüngliche Assistent in seinem aktiven Speicher zugreifen konnte. Laut Ken Xu, dem federführenden Autor der Studie, einem Doktoranden, kann ORISA dabei helfen festzustellen, welche Informationen jemand mit einem KI-Assistenten geteilt und welche Unterstützung er erhalten hat.
ORISA nutzt dabei die im Prozessspeicher erhaltenen Batch-Tokens und Key-Value (KV)-Caches, um Token-Sequenzen zu rekonstruieren und Aufmerksamkeitszustände auf Sitzungsebene wiederherzustellen.
Implikationen für Cybersicherheit und Datenschutz
Die Entwicklung von ORISA zielt darauf ab, eine Lücke in der Cybersicherheit zu schließen. Lokale KI-Modelle bieten den Vorteil, dass sie keine zentralisierte Protokollierung oder Überwachung aufweisen. Dies kann jedoch missbraucht werden, beispielsweise indem Kriminelle Modelle für illegale Aktivitäten anpassen und Beweise durch Löschen der Daten unauffindbar machen. Bisher war es für Ermittler schwierig, mithilfe forensischer Speichertechniken verwertbare Beweise solcher Aktivitäten zu finden.
Gleichzeitig birgt die Technologie auch Datenschutzrisiken: Sollten Hacker ein ähnliches Tool entwickeln oder Zugriff auf ORISA erhalten, könnten sie theoretisch gelöschte Informationen aus Chats wiederherstellen und Anfragen rekonstruieren. Die Wirksamkeit von ORISA ist jedoch zeitlich begrenzt; die Wiederherstellung wird schwieriger, je länger die Löschung zurückliegt, da der Telefonspeicher durch neuere Aktivitäten überschrieben wird.
Unabhängig von diesen Entwicklungen bleibt der Rat bestehen: Teilen Sie keine sensiblen Informationen mit Chatbots, selbst wenn diese lokal auf dem Gerät ausgeführt werden.
Thema: Technologie / KI allgemein. Quelle/Inspiration: ZDNet.