KI-Wissenschaftler bei Microsoft reagiert mit Windows 11-Rückruf auf Datenschutzprobleme

Bei einer Rede am Stanford Institute for Human-Centered Artificial Intelligence verteidigte Microsofts leitender Forschungswissenschaftler Jaime Teevan den Datenschutz bei Windows 11 Recall und erklärte, dass die KI-Funktion lokal operiere und keine Daten in der Cloud gespeichert würden. Sie reagierte auch auf die Nachrichten über Datenschutz- und Sicherheitsbedenken bei Windows Recall.

Recall ist eine neue Funktion, die mit Snapdragon X-PCs ausgeliefert wird. Sie zeichnet alles auf, um Ihre vergangenen Aktivitäten „durchsuchbar“ zu machen. Wenn Sie beispielsweise an einem Projekt gearbeitet und eine Diskussion mit einem Freund geführt haben, sich aber nicht an die Einzelheiten oder den Ort erinnern können, können Sie die integrierte KI von Microsoft nutzen, um sich an diesen Moment zu erinnern.

Windows Latest hat die Funktion auf der Entwicklerkonferenz Build 2024 getestet, wo uns aufgefallen ist, dass Recall alle fünf Sekunden Screenshots Ihres Bildschirms macht. Microsoft erlaubt Ihnen zwar, Apps und Websites aus der Recall-Aufzeichnung zurückzulisten, hat das Unternehmen jedoch gewarnt, dass Recall Ihre Passwörter und vertraulichen Informationen erfassen kann.

Denn die KI extrahiert die Texte aus den Bildern und nutzt kleine Sprachmodelle, um deine Aktivitäten durchsuchbar zu machen. Das Problem bei Recall ist, dass es alles erfasst und eine Datenbank erstellt, die lokal gespeichert wird und mit wenig Aufwand abgerufen werden kann.

Laut Kevin Beaumont , der früher bei Microsoft gearbeitet hat, verwendet Windows 11 Azure AI, das nativ auf dem Gerät ausgeführt wird, um automatisch OCR-Daten aus jedem Screenshot zu extrahieren.

Die OCR-Daten, die Ihre Passwörter enthalten könnten, werden Berichten zufolge in einer SQLite-Datenbank im Benutzerordner gespeichert, für den Zugriff darauf sind bestimmte Berechtigungen erforderlich.

„Diese Datenbankdatei enthält im Klartext eine Aufzeichnung von allem, was Sie jemals auf Ihrem PC angesehen haben“, schreibt Beaumont , der angeblich die Installation von Windows 11 geändert hat, um Recall auf einem offiziell nicht unterstützten Gerät zu erzwingen.

Derzeit ist unklar, ob die Recall-Integration auf einem Gerät mit Snapdragon X-Prozessor und Pluton-Chip sicherer ist.

Laut Microsoft ist Recall sicher, da alles lokal gespeichert wird

Auf der Konferenz des Stanford Institute for Human-Centered Artificial Intelligence reagierte Microsofts KI-Wissenschaftler Jaime Teevan auf Datenschutzbedenken rund um Recall in Windows 11.

Während der Diskussion bemerkte Erik Brynjolfsson , ein amerikanischer Akademiker, Autor und Erfinder, dass es in letzter Zeit aufgrund von Datenschutzbedenken zu Gegenreaktionen gekommen sei. Sammelt Recall Ihre Daten? Sind sie lokal und privat? Erik warf mehrere Fragen auf, und Microsoft verteidigte die KI-Integration mit einer einfachen Begründung: Alles wird lokal gespeichert.

Jaime, ein Forscher bei Microsoft, antwortete: „Ja, das ist eine großartige Frage, Erik. Das ist es, und das kam auch im Laufe des Morgens immer wieder zur Sprache: Die Bedeutung von Daten und diese KI-Revolution, in der wir uns gerade befinden, verändert wirklich die Art und Weise, wie wir Daten verstehen.“

Als Erik erneut fragte: „Wird es lokal gespeichert? Angenommen, ich aktiviere Recall? Ich weiß nicht, ob ich das kann, aber wenn Sie so etwas zur Verfügung haben, würde ich mir Sorgen machen, dass alle meine persönlichen Dateien in die Cloud und zu Microsoft oder sonst wo gelangen. Haben Sie es verschlüsselt oder wie ist es–?“

Jaime versicherte: „Ja, das ist eine grundlegende Sache, die uns als Unternehmen sehr am Herzen liegt, nämlich der Schutz von Daten. Recall ist eine Funktion, die Informationen erfasst. Es handelt sich um eine lokale Windows-Funktion, nichts geht in die Cloud, alles wird lokal gespeichert.“

Erik antwortete: „Okay“, worauf Jaime erneut bestätigte: „Ja.“

Die Aussagen von Microsoft gehen zwar nicht auf unsere Bedenken ein, bestätigen jedoch, dass Recall vollständig lokal erfolgt.

Sicherheitsforscher haben mehrere Fragen gestellt, unter anderem, welche Maßnahmen Microsoft ergreifen wird, um den unbefugten Zugriff anderer Benutzer auf demselben Gerät auf die Recall-Datenbank zu verhindern.

Wir wissen auch nicht, wie das System die Speicherung und den Zugriff auf vertrauliche Informationen, etwa Finanzdaten, schützt.

Mir persönlich gefällt die Idee von Recall, aber Datenschutz und Sicherheit sind ebenso wichtig. Glauben Sie, dass Microsoft genug tut, um Recall zu verteidigen? Lassen Sie es uns in den Kommentaren unten wissen.