Microsoft Edge は Windows 11 および Windows 10 上で Phi3 Mini AI モデルをローカルで実行する可能性があります

Microsoft は、Edge ブラウザで「Phi3 Mini」と呼ばれる小さな言語をローカルで実行できるようにする新機能をテストしているようです。これは、Microsoft Edge を使用して、Windows 11 (および Windows 10) PC 上で直接 Microsoft の小さな言語モデルの 1 つを操作できることを意味します。これは、Edge Canary で発見された新しい実験フラグによるものです。

X の読者Leoが指摘し、Windows Latest で確認されたように、「Prompt API for Phi3 min」という新しいフラグがあります。Microsoft はこれを、「組み込みの大規模言語モデル」(Edge の Phi3 Mini) と対話できる「探索的 Prompt API」を有効にする方法であると説明しています。

「探索的 Prompt API を有効にして、組み込みの大規模言語モデル (Edge の Phi3 Mini) に自然言語の指示を送信できるようにします。探索的 API は、潜在的なユースケースを発見するためのローカル プロトタイピング用に設計されており、リリースされない可能性もあります。これらの探索は、組み込みの AI ロードマップに情報を提供します」と Microsoft は Edge フラグ メニューでこの実験を確認しました。

Edge は本当に AI モデルをローカルでホストするのでしょうか?

モデルをローカルでホストできると考えられる理由は何ですか?

「探索的」という用語の使用は、Edge の小さな言語モデルのアイデアがまだ検討中であり、開発のごく初期段階にあることを示唆しています。

マイクロソフトは、本格的な大規模言語モデルを Edge 内でローカルにホストするつもりはないようだが、これは現実的には不可能だ。同社が小規模言語モデルの一部を使用して、ブラウザの新機能を強化しようとしている可能性はある。

「事実の正確性を必要とするユースケース（知識に関する質問への回答など）には適していません」とマイクロソフトは実験的フラグの説明で述べています。

Microsoft は、Edge ブラウザを通じてそれがどのように機能するかを直接確認しています。この API は、テキストの要約や言い換えなどの非常に単純なタスク向けに設計されています。同社はまた、知識ベースの質問に対して API が正確である必要はないと警告しています。

しかし、Microsoft はどのようにしてローカル AI を Edge に統合できるのでしょうか。たとえば、数百語のテキストを選択して右クリックし、組み込みの Edge AI プロセスを使用してローカルで「テキストを要約または言い換える」ことができます。

これはすでに Copilot 経由で実行できますが、データがローカルで処理されると、応答は通常より高速になり、よりプライベートになります。

さらに、Microsoft は「ローカル プロトタイピング」について言及していますが、これは同社が API をローカルでホストする実験を行っていることを示すもう 1 つの明確な兆候です。また、「組み込みの大規模言語モデル」という用語も、このモデルが Edge ブラウザー自体に統合されていることを裏付けています。

そうでないのなら、なぜ Microsoft は「組み込み」という用語を使用するのでしょうか?

Google Gemini Nano（小型言語モデル）を Google Chrome で直接実行する方法もあり、Morten Just on Xが共有した上記のビデオを見ると、その驚異的な高速動作に驚かされるでしょう。

特に興味深いのは、これらのローカルにホストされたモデルは完全にオフラインで動作するため、データの共有やインターネットの速度低下を心配する必要がないことです。

もちろん、Edge で AI モデルをローカルに実行するには多くの作業が必要であり、統合によって多くのシステム リソースが消費されないことを期待できます。

ローカル AI に加えて、Edge は煩雑さを軽減し、Windows 11 の省エネ機能を統合して電力消費を削減したいと考えています。