Microsoft Edge potrebbe eseguire il modello Phi3 Mini AI localmente su Windows 11 e Windows 10

Microsoft sembra stia testando una nuova funzionalità che potrebbe consentire al browser Edge di eseguire localmente un linguaggio di piccole dimensioni chiamato “Phi3 Mini”. Ciò significa che sarai in grado di utilizzare Microsoft Edge per giocare con uno dei modelli di linguaggio di piccole dimensioni di Microsoft direttamente su PC Windows 11 (e Windows 10). Questo secondo i nuovi flag sperimentali individuati in Edge Canary.

Come notato dal nostro lettore Leo su X e confermato da Windows Latest, c’è un nuovo flag chiamato “Prompt API per Phi3 min”. Microsoft lo descrive come un modo per attivare “Exploratory Prompt API, che consente di interagire con un “modello linguistico di grandi dimensioni incorporato” (Phi3 Mini in Edge).

“Abilita l’API Prompt esplorativa, consentendo di inviare istruzioni in linguaggio naturale a un modello linguistico di grandi dimensioni incorporato (Phi3 Mini in Edge). Le API esplorative sono progettate per la prototipazione locale per aiutare a scoprire potenziali casi d’uso e potrebbero non essere mai avviate. Queste esplorazioni informeranno la roadmap AI incorporata”, ha confermato Microsoft l’esperimento tramite il menu Edge flags.

Edge ospiterà davvero localmente un modello di intelligenza artificiale?

Cosa ci fa pensare che il modello potrebbe essere ospitato localmente?

L’uso del termine “esplorativo” suggerisce che l’idea del modello linguistico ridotto di Edge è ancora in fase di elaborazione e probabilmente si trova nelle primissime fasi di sviluppo.

Microsoft chiaramente non sembra ospitare il modello di linguaggio di grandi dimensioni a pieno titolo in locale all’interno di Edge, il che non è praticamente possibile. È possibile che l’azienda stia cercando di utilizzare parti del modello di linguaggio di piccole dimensioni per alimentare nuove funzionalità nel browser.

“NON è adatto a casi d’uso che richiedono accuratezza fattuale (ad esempio, rispondere a domande di conoscenza)”, ha osservato Microsoft nella descrizione del flag sperimentale.

Microsoft sta vedendo come funziona direttamente tramite il browser Edge. L’API è progettata per attività davvero semplici come riassumere o riformulare il testo. L’azienda avverte inoltre che l’API non deve essere accurata per domande basate sulla conoscenza.

Ma come potrebbe Microsoft integrare l’intelligenza artificiale locale in Edge? Ad esempio, puoi selezionare alcune centinaia di parole di testo, fare clic con il pulsante destro del mouse e quindi utilizzare il processo AI Edge integrato per “riassumere o riformulare il testo” localmente.

Questa operazione potrebbe già essere eseguita tramite Copilot, ma quando i dati vengono elaborati localmente, le risposte sono solitamente più rapide e riservate.

Inoltre, Microsoft menziona “prototipazione locale”, che è un altro chiaro segno che l’azienda sta sperimentando l’hosting locale dell’API. Il termine “modello di linguaggio di grandi dimensioni incorporato” conferma anche che questo modello è integrato nel browser Edge stesso.

Perché Microsoft userebbe il termine “integrato” se non fosse così?

Esistono anche dei modi per eseguire Google Gemini Nano (un piccolo modello di linguaggio) direttamente in Google Chrome. Se guardate il video qui sopra condiviso da Morten Just su X , rimarrete sorpresi dalla sua incredibile velocità.

Ciò che è particolarmente interessante è che questi modelli ospitati localmente funzionano completamente offline, quindi non devi preoccuparti della condivisione dei tuoi dati o della lentezza della connessione Internet.

Naturalmente, l’esecuzione locale di modelli di intelligenza artificiale in Edge è un’idea che richiede molto lavoro e si può sperare che l’integrazione non occupi troppe risorse di sistema.

Oltre all’intelligenza artificiale locale, Edge vuole anche ridurre l’ingombro e integrare il risparmio energetico di Windows 11 per ridurre il consumo di energia.