Un scientifique de Microsoft AI répond aux problèmes de confidentialité avec le rappel de Windows 11

S’exprimant à l’Institut de Stanford pour l’intelligence artificielle centrée sur l’humain, Jaime Teevan, chercheur en chef de Microsoft, a défendu la confidentialité de Windows 11 Recall, déclarant que la fonctionnalité d’IA fonctionne localement, sans qu’aucune donnée ne soit stockée dans le cloud. Elle a également répondu aux nouvelles concernant les problèmes de confidentialité et de sécurité liés au rappel de Windows.

Le rappel est une nouvelle fonctionnalité fournie avec les PC équipés de Snapdragon X. Il enregistre tout pour rendre vos activités passées « consultables ». Par exemple, si vous travaillez sur un projet et avez eu une discussion avec un ami mais que vous ne vous souvenez pas des détails ni du lieu où cela s’est déroulé, vous pouvez utiliser l’IA intégrée de Microsoft pour vous souvenir de ce moment.

Windows Latest a testé la fonctionnalité lors de la conférence développée Build 2024, où nous avons remarqué que Recall prend des captures d’écran de votre écran toutes les cinq secondes. Bien que Microsoft vous permette de sauvegarder des applications et des sites Web à partir de l’enregistrement Recall, la société a averti que Recall peut capturer vos mots de passe et vos informations sensibles.

En effet, l’IA extrait les textes des images et utilise de petits modèles de langage pour rendre vos activités consultables. Le problème avec Recall est qu’il capture tout et crée une base de données, qui est stockée localement et accessible avec peu d’effort.

Selon Kevin Beaumont , qui travaillait auparavant chez Microsoft, Windows 11 utilise Azure AI, qui s’exécute nativement sur l’appareil pour extraire automatiquement les données OCR de chaque capture d’écran.

Les données OCR, qui pourraient inclure vos mots de passe, seraient stockées dans une base de données SQLite à l’intérieur du dossier utilisateur, ce qui nécessite certaines autorisations d’accès.

« Ce fichier de base de données contient un enregistrement de tout ce que vous avez vu sur votre PC en texte brut », écrit Beaumont , qui aurait modifié l’installation de Windows 11 pour forcer l’activation du rappel sur un appareil officiellement non pris en charge.

Pour le moment, on ne sait pas si l’intégration de Recall est plus sécurisée sur un appareil doté d’un processeur Snapdragon X et d’une puce Pluton.

Microsoft affirme que Recall est sécurisé car il stocke tout localement

Lors de la conférence de l’Institut de Stanford pour l’intelligence artificielle centrée sur l’humain, Jaime Teevan, scientifique en IA de Microsoft, a répondu aux préoccupations en matière de confidentialité concernant le rappel dans Windows 11.

Au cours de la discussion, Erik Brynjolfsson , un universitaire, auteur et inventeur américain, a souligné qu’il y avait eu récemment une réaction négative en raison de problèmes de confidentialité. Est-ce que Recall collecte vos données ? Est-ce local et privé ? Erik a soulevé plusieurs questions, et Microsoft a défendu l’intégration de l’IA avec une justification simple : tout est stocké localement.

Jaime, chercheur scientifique chez Microsoft, a répondu : « Oui, c’est donc une excellente question, Erik, et cela a également été évoqué tout au long de la matinée. L’importance, l’importance des données et cette révolution de l’IA dans laquelle nous nous trouvons actuellement est changer vraiment la façon dont nous comprenons les données.

Quand Erik a demandé à nouveau : « Est-ce stocké localement ? Supposons que j’active le rappel, je ne sais pas si je peux, mais lorsque vous disposez de quelque chose comme ça, je m’inquiéterais de voir tous mes fichiers personnels remonter dans le Cloud et Microsoft ou autre. Est-ce que vous le gardez crypté ou comment est-ce… ? »

Jaime a assuré : « Oui, c’est une chose fondamentale qui nous tient beaucoup à cœur en tant qu’entreprise, c’est en fait la protection des données. Ainsi, Recall est une fonctionnalité qui capture des informations, c’est une fonctionnalité locale de Windows, rien ne va dans le Cloud, tout est stocké localement.

Erik a répondu : « D’accord », ce à quoi Jaime a confirmé à nouveau : « Ouais ».

Bien que les déclarations de Microsoft ne répondent pas à nos préoccupations, elles confirment que Recall est entièrement local.

Les chercheurs en sécurité ont posé plusieurs questions, notamment quelles mesures Microsoft prendra pour empêcher l’accès non autorisé à la base de données Recall par d’autres utilisateurs sur le même appareil.

Nous ne savons pas non plus comment le système protège les informations sensibles, telles que les données financières, contre le stockage et l’accès.

Personnellement, j’aime l’idée de Recall, mais la confidentialité et la sécurité sont tout aussi importantes. Pensez-vous que Microsoft en fait assez pour défendre Recall ? Faites-le-nous savoir dans les commentaires ci-dessous.