微軟人工智慧科學家透過Windows 11召回回應隱私問題
微軟首席研究科學家 Jaime Teevan 在史丹佛以人為中心的人工智慧研究所發表演講時,為 Windows 11 Recall 的隱私性進行了辯護,他表示 AI 功能在本地運行,沒有資料儲存在雲端。她還回應了有關 Windows 召回的隱私和安全性問題的消息。
Recall 是搭載 Snapdragon X 的 PC 附帶的新功能。它記錄一切,使您過去的活動“可搜尋”。例如,如果您正在做一個專案並與朋友進行了討論,但不記得細節或發生地點,您可以利用微軟的內建人工智慧來回憶那一刻。
Windows Late 在 Build 2024 開發大會上測試了該功能,我們注意到 Recall 每五秒鐘就會截取一次螢幕截圖。雖然微軟允許你將應用程式和網站從 Recall 記錄中重新列入名單,但該公司警告稱,Recall 可能會捕獲你的密碼和敏感資訊。
這是因為人工智慧從圖像中提取文本,並使用小型語言模型使您的活動可搜尋。 Recall 的問題在於它捕獲所有內容並創建一個資料庫,該資料庫儲存在本地並且可以輕鬆存取。
根據曾在微軟工作的Kevin Beaumont介紹,Windows 11 使用 Azure AI,在裝置上本地運行,自動從每個螢幕截圖中提取 OCR 資料。
據報道,OCR 資料可能包括您的密碼,儲存在使用者資料夾內的 SQLite 資料庫中,需要一定的權限才能存取。
「這個資料庫檔案以純文字形式記錄了你在 PC 上查看過的所有內容,」 博蒙特寫道,他據稱修改了 Windows 11 安裝,以在官方不支援的裝置上強制啟用 Recall。
目前,尚不清楚 Recall 整合在配備 Snapdragon X 處理器和 Pluton 晶片的裝置上是否更安全。
微軟表示 Recall 是安全的,因為它在本地儲存所有內容
在史丹佛以人為中心的人工智慧研究所會議上,微軟的人工智慧科學家Jaime Teevan 回應了有關 Windows 11 中 Recall 的隱私問題。
在討論中,美國學者、作家和發明家埃里克·布林約爾松(Erik Brynjolfsson) 指出,最近由於隱私問題而出現了強烈反對。 Recall 會收集您的資料嗎?是本地的還是私人的?艾瑞克提出了幾個問題,微軟用一個簡單的理由為人工智慧整合辯護:一切都儲存在本地。
微軟研究科學家 Jaime 回答:「是的,這是一個很好的問題,Erik,整個上午都在討論這個問題,數據的重要性以及我們現在所處的人工智慧革命是真正改變了我們理解數據的方式。
當Erik再次問道:「它儲存在本地嗎?假設我啟動 Recall,我不知道是否可以,但是當你有類似的東西可用時,我會擔心我的所有個人檔案都會進入雲端和微軟或其他地方。你有對其進行加密嗎?
Jaime 保證:「是的,這是我們作為一家公司非常關心的基礎性問題,實際上就是資料的保護。因此,Recall 是一種捕獲資訊的功能,它是本機 Windows 功能,沒有任何內容進入雲端,所有內容都儲存在本機上。
艾瑞克回答說:“好的。”詹姆再次確認道:“是的。”
雖然微軟的聲明沒有解決我們的擔憂,但他們確實證實了 Recall 完全是本地化的。
安全研究人員提出了幾個問題,包括微軟將採取哪些措施來防止同一裝置上的其他使用者未經授權存取 Recall 資料庫。
我們也不知道系統如何保護敏感資訊(例如財務資料)免遭儲存和存取。
我個人喜歡 Recall 的想法,但隱私和安全同樣重要。您認為微軟在捍衛 Recall 方面做得足夠嗎?請在下面的評論中告訴我們。
發佈留言