Cientista de IA da Microsoft responde a problemas de privacidade com Windows 11 Recall

Falando no Stanford Institute for Human-Centered Artificial Intelligence, o cientista-chefe de pesquisa da Microsoft, Jaime Teevan, defendeu a privacidade do Windows 11 Recall, afirmando que o recurso de IA opera localmente, sem dados armazenados na nuvem. Ela também respondeu às notícias sobre as preocupações com privacidade e segurança do Windows Recall.

Recall é um novo recurso fornecido com PCs com Snapdragon X. Ele registra tudo para tornar suas atividades anteriores “pesquisáveis”. Por exemplo, se você estava trabalhando em um projeto e conversou com um amigo, mas não conseguiu se lembrar dos detalhes ou onde aconteceu, você pode utilizar a IA integrada da Microsoft para relembrar aquele momento.

O Windows Latest testou o recurso na conferência de desenvolvimento Build 2024, onde notamos que o Recall faz capturas de tela da sua tela a cada cinco segundos. Embora a Microsoft permita que você coloque aplicativos e sites na lista de gravação do Recall, a empresa alertou que o Recall pode capturar suas senhas e informações confidenciais.

Isso porque a IA extrai os textos das imagens e utiliza pequenos modelos de linguagem para tornar suas atividades pesquisáveis. O problema do Recall é que ele captura tudo e cria um banco de dados, que é armazenado localmente e pode ser acessado com pouco esforço.

De acordo com Kevin Beaumont , que trabalhou anteriormente na Microsoft, o Windows 11 usa Azure AI, rodando nativamente no dispositivo para extrair automaticamente dados de OCR de cada captura de tela.

Os dados de OCR, que podem incluir suas senhas, são armazenados em um banco de dados SQLite dentro da pasta do usuário, que requer certas permissões de acesso.

“Este arquivo de banco de dados tem um registro de tudo o que você já viu em seu PC em texto simples”, escreve Beaumont , que supostamente modificou a instalação do Windows 11 para forçar a ativação do Recall em um dispositivo oficialmente sem suporte.

No momento, não está claro se a integração do Recall é mais segura em um dispositivo com processador Snapdragon X e chip Pluton.

A Microsoft diz que o Recall é seguro porque armazena tudo localmente

Na conferência do Stanford Institute for Human-Centered Artificial Intelligence, o cientista de IA da Microsoft, Jaime Teevan, respondeu às preocupações de privacidade em torno do Recall no Windows 11.

Durante a discussão, Erik Brynjolfsson , um acadêmico, autor e inventor americano, observou que houve uma reação recente devido a questões de privacidade. A Recall coleta seus dados? É local e privado? Erik levantou diversas questões, e a Microsoft defendeu a integração da IA ​​com uma justificativa simples: tudo é armazenado localmente.

O cientista pesquisador da Microsoft, Jaime, respondeu: “Sim, então essa é uma ótima pergunta, Erik, é, e isso surgiu durante toda a manhã também, a importância, a importância dos dados e desta revolução da IA ​​​​em que estamos agora é realmente mudando a maneira como entendemos os dados.”

Quando Erik perguntou novamente: “Está armazenado localmente? Suponha que eu ative o Recall, não sei se posso, mas quando você tiver algo assim disponível, ficaria preocupado com todos os meus arquivos pessoais indo para a nuvem e para a Microsoft ou algo assim. Você o mantém criptografado ou como é…?”

Jaime garantiu: “Sim, isso é algo fundamental com o qual nós, como empresa, nos preocupamos muito, é na verdade a proteção de dados. Então, o Recall é um recurso que captura informações, é uma funcionalidade local do Windows, nada vai para a nuvem, tudo é armazenado localmente.”

Erik respondeu: “Tudo bem”, ao que Jaime confirmou novamente: “Sim”.

Embora as declarações da Microsoft não abordem as nossas preocupações, elas confirmam que o Recall é completamente local.

Os pesquisadores de segurança fizeram várias perguntas, incluindo quais medidas a Microsoft tomará para impedir o acesso não autorizado ao banco de dados Recall por outros usuários no mesmo dispositivo.

Também não sabemos como o sistema protege informações confidenciais, como dados financeiros, de serem armazenadas e acessadas.

Pessoalmente, gosto da ideia do Recall, mas privacidade e segurança são igualmente importantes. Você acredita que a Microsoft está fazendo o suficiente para defender o Recall? Deixe-nos saber nos comentários abaixo.