マイクロソフトのAI科学者がWindows 11リコールのプライバシー問題に反応

スタンフォード大学人間中心人工知能研究所で講演したマイクロソフトの主任研究員ジェイム・ティーヴァン氏は、Windows 11 リコールのプライバシーを擁護し、AI 機能はローカルで動作し、クラウドにデータは保存されないと述べた。また、Windows リコールのプライバシーと安全性に関する懸念に関するニュースにも反応した。

Recall は、Snapdragon X 搭載 PC に搭載されている新機能です。過去のアクティビティをすべて記録して、「検索可能」にします。たとえば、プロジェクトに取り組んでいて友人と話し合ったものの、詳細や場所を思い出せない場合は、Microsoft の組み込み AI を利用してその瞬間を思い出すことができます。

Windows Latest は Build 2024 開発者会議でこの機能をテストしましたが、Recall が 5 秒ごとに画面のスクリーンショットを撮っていることがわかりました。Microsoft では、Recall の記録からアプリや Web サイトをバックリストに追加することを許可していますが、Recall がパスワードや機密情報を取得する可能性があると警告しています。

これは、AI が画像からテキストを抽出し、小さな言語モデルを使用してアクティビティを検索可能にするためです。Recall の問題は、すべてをキャプチャしてデータベースを作成し、それがローカルに保存され、ほとんど手間をかけずにアクセスできることです。

元マイクロソフト勤務のケビン・ボーモント氏によると、Windows 11 はデバイス上でネイティブに実行される Azure AI を使用して、あらゆるスクリーンショットから OCR データを自動的に抽出します。

パスワードが含まれる可能性のある OCR データは、ユーザー フォルダー内の SQLite データベースに保存されており、アクセスするには特定の権限が必要であると報告されています。

「このデータベース ファイルには、PC でこれまでに表示したすべての内容がプレーン テキストで記録されています」と Beaumont 氏は記している。同氏は、正式にサポートされていないデバイスで Recall を強制的に有効にするために Windows 11 のインストールを変更したとされている。

現時点では、Snapdragon X プロセッサと Pluton チップを搭載したデバイスで Recall の統合がより安全であるかどうかは不明です。

マイクロソフトは、Recall はすべてのデータをローカルに保存するため安全だと述べている

スタンフォード大学人間中心の人工知能研究所のカンファレンスで、マイクロソフトの AI 科学者Jaime Teevan 氏が、Windows 11 の Recall に関するプライバシーの懸念に応答しました。

議論の中で、アメリカの学者、作家、発明家であるエリック・ブリニョルフソン氏は、プライバシーに関する懸念から最近反発が起きていると指摘した。Recall はデータを収集するのか？データはローカルでプライベートなのか？エリック氏はいくつかの疑問を提起し、マイクロソフトは AI 統合を、すべてがローカルに保存されるという単純な理由で擁護した。

マイクロソフトの研究科学者ジェイミーはこう答えました。「ええ、それは素晴らしい質問です、エリック。その通りです。これは午前中も話題に上がっていましたが、データの重要性と、私たちが現在直面しているこの AI 革命は、データを理解する方法を本当に変えつつあります。」

エリックが再度尋ねたところ、「ローカルに保存されていますか？Recall を起動するとしたら、できるかどうかはわかりませんが、そのようなものが利用できる場合、すべての個人ファイルがクラウドや Microsoft などにアップロードされるのではないかと心配になります。暗号化されているのですか、それともどのような方法で保存されているのですか？」

ジェイミーは、「はい、これは企業として私たちが非常に重視している基本的なことです。データの保護は実際に重要です。つまり、Recall は情報をキャプチャする機能であり、ローカルの Windows 機能であり、クラウドには何も送信されず、すべてがローカルに保存されます」と断言しました。

エリックは「わかった」と答え、ジェイミーは「そうだね」と再度確認した。

Microsoft の声明は私たちの懸念には対応していませんが、Recall が完全にローカルであることを確認しています。

セキュリティ研究者は、同じデバイス上の他のユーザーによる Recall データベースへの不正アクセスを防ぐために Microsoft がどのような対策を講じるかなど、いくつかの質問をしました。

また、システムが財務データなどの機密情報をどのように保存およびアクセスから保護するかについても不明です。

私は個人的にリコールの考え方が好きですが、プライバシーとセキュリティは同様に重要です。Microsoft はリコールを守るために十分な努力をしていると思いますか? 以下のコメント欄でお知らせください。