Naukowiec zajmujący się sztuczną inteligencją firmy Microsoft odpowiada na problemy związane z prywatnością za pomocą funkcji przywracania systemu Windows 11

W przemówieniu w Stanford Institute for Human-Centered Artificial Intelligence główny naukowiec Microsoftu, Jaime Teevan, bronił prywatności systemu Windows 11 Recall, stwierdzając, że funkcja sztucznej inteligencji działa lokalnie i nie przechowuje danych w chmurze. Odpowiedziała także na doniesienia o obawach związanych z prywatnością i bezpieczeństwem systemu Windows Recall.

Recall to nowa funkcja dostępna w komputerach wyposażonych w procesor Snapdragon X. Rejestruje wszystko, dzięki czemu Twoje wcześniejsze działania można „przeszukać”. Na przykład, jeśli pracowałeś nad projektem i rozmawiałeś ze znajomym, ale nie pamiętasz szczegółów ani miejsca, w którym to miało miejsce, możesz wykorzystać wbudowaną sztuczną inteligencję firmy Microsoft, aby przypomnieć sobie ten moment.

Windows Latest przetestował tę funkcję na konferencji opracowanej w ramach Build 2024, podczas której zauważyliśmy, że Recall wykonuje zrzuty ekranu ekranu co pięć sekund. Chociaż Microsoft umożliwia umieszczanie aplikacji i witryn internetowych na liście Recall, firma ostrzega, że ​​Recall może przechwytywać Twoje hasła i poufne informacje.

Dzieje się tak, ponieważ sztuczna inteligencja wyodrębnia teksty z obrazów i wykorzystuje małe modele językowe, aby umożliwić wyszukiwanie Twoich działań. Problem z Recall polega na tym, że przechwytuje wszystko i tworzy bazę danych, która jest przechowywana lokalnie i można uzyskać do niej dostęp przy niewielkim wysiłku.

Według Kevina Beaumonta , który wcześniej pracował w Microsoft, Windows 11 korzysta z Azure AI, działającego natywnie na urządzeniu, aby automatycznie wyodrębniać dane OCR z każdego zrzutu ekranu.

Według doniesień dane OCR, które mogą obejmować hasła, są przechowywane w bazie danych SQLite w folderze użytkownika, do czego dostęp wymaga pewnych uprawnień.

„Ten plik bazy danych zawiera zapis wszystkiego, co kiedykolwiek przeglądałeś na swoim komputerze, w postaci zwykłego tekstu” – pisze Beaumont , który rzekomo zmodyfikował instalację systemu Windows 11, aby wymusić włączenie funkcji Recall na oficjalnie nieobsługiwanym urządzeniu.

Na ten moment nie jest jasne, czy integracja Recall będzie bezpieczniejsza na urządzeniu z procesorem Snapdragon X i chipem Pluton.

Microsoft twierdzi, że Recall jest bezpieczny, ponieważ przechowuje wszystko lokalnie

Na konferencji Stanford Institute for Human-Centered Artificial Intelligence Jaime Teevan , badacz sztucznej inteligencji firmy Microsoft, odpowiedział na obawy dotyczące prywatności związane z funkcją Recall w systemie Windows 11.

Podczas dyskusji Erik Brynjolfsson , amerykański naukowiec, autor i wynalazca, zauważył, że ostatnio doszło do ostrej reakcji ze względu na obawy dotyczące prywatności. Czy Recall zbiera Twoje dane? Czy jest to lokalne i prywatne? Erik postawił kilka pytań, a Microsoft bronił integracji AI prostym uzasadnieniem: wszystko jest przechowywane lokalnie.

Naukowiec z firmy Microsoft, Jaime, odpowiedział: „Tak, to jest świetne pytanie, Eriku, i pojawiało się to również przez cały poranek, znaczenie, znaczenie danych i ta rewolucja sztucznej inteligencji, w której obecnie jesteśmy, to naprawdę zmienia sposób, w jaki rozumiemy dane”.

Kiedy Erik zapytał ponownie: „Czy jest to przechowywane lokalnie? Załóżmy, że aktywuję funkcję Recall. Nie wiem, czy mogę, ale gdy masz coś takiego dostępne, martwiłbym się, że wszystkie moje osobiste pliki zostaną przesłane do chmury i Microsoftu lub gdziekolwiek indziej. Czy trzymasz to zaszyfrowane, czy jak to jest…?”

Jaime zapewnił: „Tak, to podstawowa rzecz, na której nam jako firmie bardzo zależy, a mianowicie ochrona danych. Zatem Recall to funkcja przechwytująca informacje, jest to lokalna funkcjonalność systemu Windows, nic nie trafia do chmury, wszystko jest przechowywane lokalnie.”

Erik odpowiedział: „OK”, na co Jaime ponownie potwierdził: „Tak”.

Chociaż oświadczenia Microsoftu nie rozwieją naszych obaw, potwierdzają, że wycofanie ma charakter wyłącznie lokalny.

Badacze bezpieczeństwa zadali kilka pytań, w tym jakie środki podejmie Microsoft, aby zapobiec nieautoryzowanemu dostępowi do bazy danych Recall przez innych użytkowników na tym samym urządzeniu.

Nie wiemy również, w jaki sposób system chroni wrażliwe informacje, takie jak dane finansowe, przed przechowywaniem i dostępem.

Osobiście podoba mi się pomysł Recall, ale prywatność i bezpieczeństwo są równie ważne. Czy uważasz, że Microsoft robi wystarczająco dużo, aby bronić Recall? Daj nam znać w komentarzach poniżej.