El científico de inteligencia artificial de Microsoft responde a los problemas de privacidad con el retiro del mercado de Windows 11

Hablando en el Instituto Stanford para la Inteligencia Artificial Centrada en el Humano, el científico investigador jefe de Microsoft, Jaime Teevan, defendió la privacidad de Windows 11 Recall, afirmando que la función de IA funciona localmente sin datos almacenados en la nube. También respondió a las noticias sobre las preocupaciones de privacidad y seguridad del retiro de Windows.

La recuperación es una nueva característica que se incluye con las PC con tecnología Snapdragon X. Registra todo para que sus actividades pasadas sean «buscables». Por ejemplo, si estaba trabajando en un proyecto y tuvo una conversación con un amigo pero no podía recordar los detalles o dónde tuvo lugar, puede utilizar la IA integrada de Microsoft para recordar ese momento.

Windows Latest probó la función en la conferencia desarrollada Build 2024, donde notamos que Recall toma capturas de pantalla de su pantalla cada cinco segundos. Si bien Microsoft le permite incluir en la lista de aplicaciones y sitios web la grabación de Recall, la compañía advirtió que Recall puede capturar sus contraseñas e información confidencial.

Esto se debe a que la IA extrae los textos de las imágenes y utiliza pequeños modelos de lenguaje para que sus actividades se puedan buscar. El problema con Recall es que captura todo y crea una base de datos, que se almacena localmente y se puede acceder a ella con poco esfuerzo.

Según Kevin Beaumont , quien anteriormente trabajó en Microsoft, Windows 11 usa Azure AI, que se ejecuta de forma nativa en el dispositivo para extraer automáticamente datos OCR de cada captura de pantalla.

Los datos de OCR, que podrían incluir sus contraseñas, se almacenan en una base de datos SQLite dentro de la carpeta del usuario, que requiere ciertos permisos para acceder.

«Este archivo de base de datos tiene un registro de todo lo que ha visto en su PC en texto sin formato», escribe Beaumont , quien supuestamente modificó la instalación de Windows 11 para forzar la activación de la recuperación en un dispositivo oficialmente no compatible.

Por el momento, no está claro si la integración de Recall es más segura en un dispositivo con un procesador Snapdragon X y un chip Pluton.

Microsoft dice que Recall es seguro porque almacena todo localmente

En la conferencia del Instituto Stanford para la Inteligencia Artificial Centrada en el Humano, el científico de inteligencia artificial de Microsoft, Jaime Teevan, respondió a las preocupaciones de privacidad en torno a Recall en Windows 11.

Durante la discusión, Erik Brynjolfsson , académico, autor e inventor estadounidense, señaló que recientemente ha habido una reacción violenta debido a preocupaciones sobre la privacidad. ¿Recall recopila sus datos? ¿Es local y privado? Erik planteó varias dudas y Microsoft defendió la integración de la IA con una justificación sencilla: todo se almacena localmente.

El científico investigador de Microsoft Jaime respondió: «Sí, esa es una gran pregunta, Erik, lo es, y esto también surgió a lo largo de la mañana, la importancia, la importancia de los datos y esta revolución de la IA en la que estamos ahora es realmente está cambiando la forma en que entendemos los datos”.

Cuando Erik volvió a preguntar: “¿Está almacenado localmente? Supongamos que activo Recall, no sé si puedo, pero cuando tienes algo así disponible, me preocuparía que todos mis archivos personales subieran a la Nube y a Microsoft o lo que sea. ¿Lo mantienes encriptado o cómo es…?

Jaime aseguró: “Sí, esto es algo fundamental que a nosotros, como empresa, nos importa mucho; en realidad, es la protección de datos. Entonces, Recall es una característica que captura información, es una funcionalidad local de Windows, nada va a la nube, todo se almacena localmente”.

Erik respondió: «Está bien», a lo que Jaime confirmó nuevamente: «Sí».

Si bien las declaraciones de Microsoft no abordan nuestras preocupaciones, sí confirman que Recall es completamente local.

Los investigadores de seguridad han hecho varias preguntas, incluyendo qué medidas tomará Microsoft para evitar el acceso no autorizado a la base de datos de Recall por parte de otros usuarios en el mismo dispositivo.

Tampoco sabemos cómo el sistema protege la información confidencial, como los datos financieros, para que no se almacenen ni accedan a ellos.

Personalmente me gusta la idea de Recall, pero la privacidad y la seguridad son igualmente importantes. ¿Cree que Microsoft está haciendo lo suficiente para defender Recall? Háganos saber en los comentarios a continuación.