Microsoft Recall – Datenschutz-Gefahr aus dem KI-PC

Microsoft hat die Freischaltung seiner Recall-Funktion in Windows 11, die ursprünglich für den 18.06.2024 angekündigt war, nach massiver Kritik nun eingeschränkt: sie soll zunächst nur für registrierte Nutzer im Windows Insider Programm verfügbar werden.

Worum geht es? – Die neue Windows Recall Funktion nutzt die Technik einer neuen Geräteklasse von Computern („Copilot+“ – PCs), die mit neuen ARM-CPUs und einem speziellem Chip zur Verarbeitung komplexer „Künstlicher Intelligenz (KI) Rechenprozesse“ (neural processing unit, NPU) ausgestattet sind. Die Brisanz von Recall: das System speichert Screenshots der Tätigkeit am PC automatisch im Sekundentakt und wertet diese mittels KI-Technik automatisch aus. Die Folge: alles, was auf dem Bildschirm angezeigt wurde, speichert das System – und macht es potenziell für alle Nutzer des PCs zugänglich: einschließlich im Klartext angezeigter Passwörter, ermittelter Namen angezeigter Personen und so weiter.

Auch wenn die NPU-Technik erst in diesen Wochen auf den Markt kommt, hat das c’t Computer-Magazin die Recall Funktion und deren Datensammel-Wut mittels spezieller Zusatzsoftware bereits testen können. Die Ergebnisse dieses Tests lassen für die Zukunft des Datenschutzes auf Windows-PCs wenig Gutes erahnen:

  • Die gesammelten Screenshot- und Auswertungsdaten werden unverschlüsselt in einem Unterordner des Nutzer-Ordners gespeichert. – Jeder, der sich Zugriff auf diesen Ordner verschafft, kann also sämtliche vom Nutzer auf dem Bildschirm angezeigten privaten Daten einsehen.
  • Da die Analyse-Daten in einer SQLite3-Datenbank gespeichert werden, können die Daten auch bequem zum Beispiel auf bestimmte Suchbegriffe hin analysiert werden.
  • Eingegebene Passwörter scheinen vor der KI-Funktion sicher, solange sie in Form der üblichen Punkte oder Sternchen angezeigt werden. Aber alle am Bildschirm sichtbaren Informationen, wie zum Beispiel Kontostände und QR-Codes, werden von der KI analysiert und in Textform gespeichert.
  • Doch nicht nur sensible Daten speichert das System und öffnet potenziellem Missbrauch Tür und Tor. „Recall“ legt zum Beispiel auch Tabellen an, die detailliert protokollieren, wie viele Sekunden der Nutzer mit welcher Anwendung zugebracht hat. – Eine lückenlose Überwachung der PC-Arbeit des Mitarbeiters wird dadurch zum Beispiel für Arbeitgeber zum Kinderspiel.

Es bleibt abzuwarten, wie Microsoft nach dem ersten Zurückrudern weiter vorgehen wird. Möglicherweise werden Nachbesserungen erfolgen; warum etwa sensible Informationen im Klartext und nicht verschlüsselt gespeichert werden, lässt sich kaum erklären.

Andererseits lässt sich kaum Entwarnung geben, wenn Unternehmen und Organisationen auch in Mecklenburg-Vorpommern PCs mit dieser Technik in Zukunft einsetzen werden. Auch wenn Microsoft die Funktion zur endgültigen Markteinführung als Opt-In in Windows integriert, wird sie früher oder später sicherlich Standard werden. Und auch die Tatsache, dass die Daten zumindest lokal auf dem Rechner gespeichert werden, kann nur für den Moment beruhigen; das Speichern von Screenshots im Sekundentakt und deren stetige KI-Auswertung sind so speicher- und rechenintensiv, dass die Auslagerung in die Cloud bereits am Horizont erkennbar ist.

Das Magazin c’t spricht zumindest davon, dass mit der neuen Recall Technik von Microsoft vom „persönlichen Computer“ PC nichts Persönliches mehr übrig bleiben wird. Welche Auswirkungen dies auf den Datenschutz-konformen Betrieb von Computern im Unternehmen in der Zukunft haben wird – diesbezüglich bleiben wir vom Datenschutz Nordost für Sie in Mecklenburg-Vorpommern am Ball.