Microsoft Edge 可能會在 Windows 11 和 Windows 10 上本機執行 Phi3 Mini AI 模型
微軟似乎正在測試一項新功能,該功能可以允許 Edge 瀏覽器本地運行名為「Phi3 Mini」的小語言。這意味著你將能夠使用 Microsoft Edge 直接在 Windows 11(和 Windows 10)PC 上使用 Microsoft 的小語言模型之一。這是根據在 Edge Canary 發現的新實驗標誌得出的。
正如我們的讀者Leo 在 X 上註意到的那樣,並由 Windows 最新版確認,有一個名為「Prompt API for Phi3 min」的新標誌。微軟將其描述為打開「探索性提示 API」的一種方式,它允許您與「內建大型語言模型」(Edge 中的 Phi3 Mini)進行互動。
「啟用探索性提示 API,讓您將自然語言指令傳送到內建大型語言模型(Edge 中的 Phi3 Mini)。探索性 API 專為本地原型設計而設計,以幫助發現潛在的用例,並且可能永遠不會啟動。這些探索將為內建人工智慧路線圖提供資訊。
Edge 真的會在本地端託管 AI 模型嗎?
是什麼讓我們認為該模型可以在本地託管?
「探索性」一詞的使用表明 Edge 的小語言模型想法仍在研究中,並且很可能處於開發的早期階段。
微軟顯然並沒有在 Edge 本地託管成熟的大型語言模型,這實際上是不可能的。該公司可能正在嘗試使用小語言模型的部分內容來支援瀏覽器中的新功能。
它不適合需要事實準確性的用例(例如回答知識問題),」微軟在實驗標誌描述中指出。
微軟正在了解它如何直接透過 Edge 瀏覽器運作。該 API 專為非常簡單的任務而設計,例如總結或改寫文字。該公司還警告說,對於基於知識的問題,API 不需要準確。
但微軟如何將本地人工智慧整合到 Edge 中呢?例如,您可以選擇數百個單字的文本,右鍵單擊,然後使用內建的 Edge AI 流程在本地「總結或改寫文本」。
您已經可以透過 Copilot 做到這一點,但是當資料在本地處理時,回應通常更快、更私密。
此外,微軟還提到了“本地原型”,這是該公司正在嘗試本地託管 API 的另一個明顯跡象。 「內建大語言模型」一詞也證實了該模型已整合到 Edge 瀏覽器本身中。
如果不是這樣的話,微軟為什麼要使用「內建」這個詞呢?
還有一些方法可以直接在 Google Chrome 中運行 Google Gemini Nano(一種小型語言模型),如果您觀看Morten Just 在 X 上分享的上述視頻,您會驚訝於它的運行速度有多快。
特別有趣的是,這些本地託管的模型完全離線工作,因此您不必擔心共享資料或網路速度緩慢。
當然,在 Edge 中本地運行 AI 模型是一個需要大量工作的想法,並且希望整合不會佔用大量系統資源。
除了本地AI之外,Edge還希望減少混亂,並整合Windows 11的節能功能以降低功耗。
發佈留言