Microsoft Edge peut exécuter le modèle Phi3 Mini AI localement sur Windows 11 et Windows 10

Microsoft semble tester une nouvelle fonctionnalité qui pourrait permettre au navigateur Edge d’exécuter localement un petit langage appelé « Phi3 Mini ». Cela signifie que vous pourrez utiliser Microsoft Edge pour jouer avec l’un des petits modèles de langage de Microsoft directement sur un PC Windows 11 (et Windows 10). C’est ce que révèlent de nouveaux indicateurs expérimentaux repérés dans Edge Canary.

Comme l’a remarqué notre lecteur Leo sur X et confirmé par Windows Latest, il existe un nouveau flag appelé « Prompt API for Phi3 min ». Microsoft le décrit comme un moyen d’activer « l’API Prompt exploratoire, qui vous permet d’interagir avec un « modèle de langage intégré de grande taille » (Phi3 Mini dans Edge).

« Active l’API Prompt exploratoire, vous permettant d’envoyer des instructions en langage naturel à un grand modèle de langage intégré (Phi3 Mini dans Edge). Les API exploratoires sont conçues pour le prototypage local afin de permettre la découverte de cas d’utilisation potentiels et peuvent ne jamais être lancées. Ces explorations éclaireront la feuille de route de l’IA intégrée », a confirmé Microsoft via le menu des indicateurs Edge.

Edge va-t-il vraiment héberger localement un modèle d’IA ?

Qu’est-ce qui nous fait penser que le modèle pourrait être hébergé localement ?

L’utilisation du terme « exploratoire » suggère que l’idée du petit modèle de langage d’Edge est toujours en cours d’élaboration et qu’elle en est probablement aux tout premiers jours de développement.

Il semble clairement que Microsoft n’héberge pas le modèle de langage complet à grande échelle localement dans Edge, ce qui n’est pas possible en pratique. Il est possible que l’entreprise essaie d’utiliser des parties du petit modèle de langage pour alimenter de nouvelles fonctionnalités dans le navigateur.

« Il n’est PAS adapté aux cas d’utilisation qui nécessitent une précision factuelle (par exemple, répondre à des questions de connaissances) », a noté Microsoft dans la description de l’indicateur expérimental.

Microsoft voit comment cela fonctionne directement via le navigateur Edge. L’API est conçue pour des tâches très simples comme résumer ou reformuler un texte. L’entreprise prévient également que l’API n’a pas besoin d’être précise pour les questions basées sur les connaissances.

Mais comment Microsoft pourrait-il intégrer l’IA locale dans Edge ? Par exemple, vous pouvez sélectionner quelques centaines de mots de texte, cliquer avec le bouton droit de la souris, puis utiliser le processus d’IA intégré à Edge pour « résumer ou reformuler le texte » localement.

Vous pouvez déjà le faire via Copilot, mais lorsque les données sont traitées localement, les réponses sont généralement plus rapides et plus privées.

De plus, Microsoft évoque le « prototypage local », ce qui est un autre signe clair que l’entreprise expérimente l’hébergement local de l’API. Le terme « modèle de langage intégré à grande échelle » confirme également que ce modèle est intégré au navigateur Edge lui-même.

Pourquoi Microsoft utiliserait-il le terme « intégré » si ce n’était pas le cas ?

Il existe également des moyens d’exécuter Google Gemini Nano (un petit modèle de langage) directement dans Google Chrome, et vous serez surpris de la rapidité avec laquelle il s’exécute si vous regardez la vidéo ci-dessus partagée par Morten Just sur X.

Ce qui est particulièrement intéressant, c’est que ces modèles hébergés localement fonctionnent entièrement hors ligne, vous n’avez donc pas à vous soucier du partage de vos données ou de la lenteur d’Internet.

Bien sûr, l’exécution locale de modèles d’IA dans Edge est une idée qui nécessite beaucoup de travail, et on peut espérer que l’intégration ne prendra pas beaucoup de ressources système.

En plus de l’IA locale, Edge souhaite également réduire l’encombrement et intégrer l’économie d’énergie de Windows 11 pour réduire la consommation électrique.