Microsoft AI-wetenschapper reageert op privacyproblemen met Windows 11 Recall

Sprekend op het Stanford Institute for Human-Centered Artificial Intelligence verdedigde Jaime Teevan, hoofdonderzoeker van Microsoft, de privacy van Windows 11 Recall en stelde dat de AI-functie lokaal werkt zonder dat er gegevens in de cloud zijn opgeslagen. Ze reageerde ook op het nieuws over de privacy- en veiligheidsproblemen van de Windows Recall.

Recall is een nieuwe functie die wordt geleverd bij pc’s met Snapdragon X. Het registreert alles om uw activiteiten uit het verleden ‘doorzoekbaar’ te maken. Als u bijvoorbeeld aan een project werkte en een gesprek met een vriend had, maar u zich de details of de plaats ervan niet meer kon herinneren, kunt u de ingebouwde AI van Microsoft gebruiken om dat moment te herinneren.

Windows Latest testte de functie op de door Build 2024 ontwikkelde conferentie, waar we merkten dat Recall elke vijf seconden screenshots van je scherm maakt. Hoewel Microsoft u toestaat apps en websites op de backlist te zetten van Recall-opnames, heeft het bedrijf gewaarschuwd dat Recall uw wachtwoorden en gevoelige informatie kan vastleggen.

Dat komt omdat de AI de teksten uit de afbeeldingen haalt en kleine taalmodellen gebruikt om uw activiteiten doorzoekbaar te maken. Het probleem met Recall is dat het alles vastlegt en een database creëert, die lokaal wordt opgeslagen en met weinig moeite toegankelijk is.

Volgens Kevin Beaumont , die voorheen bij Microsoft werkte, maakt Windows 11 gebruik van Azure AI, dat native op het apparaat draait om automatisch OCR-gegevens uit elke schermafbeelding te extraheren.

De OCR-gegevens, waaronder mogelijk uw wachtwoorden, worden naar verluidt opgeslagen in een SQLite-database in de gebruikersmap, waarvoor bepaalde toegangsrechten vereist zijn.

“Dit databasebestand bevat een overzicht van alles wat je ooit op je pc hebt bekeken in platte tekst”, schrijft Beaumont , die naar verluidt de Windows 11-installatie heeft aangepast om Recall op een officieel niet-ondersteund apparaat te forceren.

Op dit moment is het onduidelijk of Recall-integratie veiliger is op een toestel met een Snapdragon X-processor en Pluton-chip.

Microsoft zegt dat Recall veilig is omdat het alles lokaal opslaat

Op de Stanford Institute for Human-Centered Artificial Intelligence-conferentie reageerde Microsoft’s AI-wetenschapper Jaime Teevan op privacyproblemen rond Recall in Windows 11.

Tijdens de discussie merkte Erik Brynjolfsson , een Amerikaanse academicus, auteur en uitvinder, op dat er recentelijk een terugslag is geweest vanwege bezorgdheid over de privacy. Verzamelt Recall uw gegevens? Is het lokaal en privé? Erik stelde verschillende vragen en Microsoft verdedigde de AI-integratie met een simpele rechtvaardiging: alles wordt lokaal opgeslagen.

Microsoft-onderzoeker Jaime antwoordde: “Ja, dus dat is een geweldige vraag, Erik, en dit is ook de hele ochtend ter sprake gekomen: het belang, het belang van data en deze AI-revolutie waar we ons nu in bevinden is verandert echt de manier waarop we data begrijpen.”

Toen Erik opnieuw vroeg: “Is het lokaal opgeslagen? Stel dat ik Recall activeer, ik weet niet of ik dat kan, maar als je zoiets beschikbaar hebt, zou ik me zorgen maken dat al mijn persoonlijke bestanden naar de cloud en Microsoft of wat dan ook gaan. Heb je het versleuteld bewaard of hoe is het–?”

Jaime verzekerde: “Ja, dit is een fundamenteel iets waar wij als bedrijf veel om geven, namelijk de bescherming van gegevens. Recall is dus een functie die informatie vastlegt, het is een lokale Windows-functionaliteit, niets gaat naar de cloud, alles wordt lokaal opgeslagen.”

Erik antwoordde: “Oké”, waarop Jaime nogmaals bevestigde: “Ja.”

Hoewel de verklaringen van Microsoft onze zorgen niet wegnemen, bevestigen ze wel dat Recall volledig lokaal is.

Beveiligingsonderzoekers hebben verschillende vragen gesteld, waaronder welke maatregelen Microsoft zal nemen om ongeautoriseerde toegang tot de Recall-database door andere gebruikers op hetzelfde apparaat te voorkomen.

We weten ook niet hoe het systeem gevoelige informatie, zoals financiële gegevens, beschermt tegen opslag en toegang.

Persoonlijk vind ik het idee van Recall leuk, maar privacy en veiligheid zijn even belangrijk. Gelooft u dat Microsoft genoeg doet om Recall te verdedigen? Laat het ons weten in de reacties hieronder.