Microsoft Edge podría ejecutar el modelo Phi3 Mini AI localmente en Windows 11 y Windows 10

Microsoft parece estar probando una nueva función que podría permitir que el navegador Edge ejecute localmente un lenguaje pequeño llamado «Phi3 Mini». Esto significa que podrás usar Microsoft Edge para jugar con uno de los modelos de lenguaje pequeño de Microsoft directamente en una PC con Windows 11 (y Windows 10). Esto es según las nuevas banderas experimentales detectadas en Edge Canary.

Como notó nuestro lector Leo en X y confirmó Windows Latest, hay una nueva bandera llamada “Prompt API for Phi3 min”. Microsoft la describe como una forma de activar la “API de Prompt exploratoria”, que le permite interactuar con un “modelo de lenguaje grande integrado” (Phi3 Mini en Edge).

“Habilita la API exploratoria Prompt, lo que le permite enviar instrucciones en lenguaje natural a un modelo de lenguaje grande integrado (Phi3 Mini en Edge). Las API exploratorias están diseñadas para la creación de prototipos locales para ayudar a descubrir posibles casos de uso y es posible que nunca se lancen. Estas exploraciones informarán la hoja de ruta de la IA integrada”, confirmó Microsoft sobre el experimento a través del menú de indicadores de Edge.

¿Edge realmente va a alojar localmente un modelo de IA?

¿Qué nos hace pensar que el modelo podría alojarse localmente?

El uso del término “exploratorio” sugiere que la idea del modelo de lenguaje pequeño de Edge aún se está desarrollando y es probable que se encuentre en las primeras etapas de desarrollo.

Es evidente que Microsoft no parece alojar el modelo de lenguaje completo y completo de forma local dentro de Edge, lo que no es posible en la práctica. Es posible que la empresa esté intentando utilizar partes del modelo de lenguaje pequeño para potenciar nuevas funciones en el navegador.

“NO es adecuado para casos de uso que requieren precisión fáctica (por ejemplo, responder preguntas de conocimiento)”, señaló Microsoft en la descripción de la bandera experimental.

Microsoft está comprobando cómo funciona directamente a través del navegador Edge. La API está diseñada para tareas realmente sencillas, como resumir o reformular un texto. La empresa también advierte que la API no necesita ser precisa para las preguntas basadas en conocimientos.

Pero, ¿cómo podría Microsoft integrar la IA local en Edge? Por ejemplo, se pueden seleccionar unos cientos de palabras de texto, hacer clic con el botón derecho y luego usar el proceso de IA integrado de Edge para “resumir o reformular el texto” localmente.

Esto ya se puede hacer a través de Copilot, pero cuando los datos se procesan localmente, las respuestas suelen ser más rápidas y privadas.

Además, Microsoft menciona el “prototipado local”, lo que es otra señal clara de que la empresa está experimentando con el alojamiento local de la API. El término “modelo de lenguaje grande integrado” también confirma que este modelo está integrado en el propio navegador Edge.

¿Por qué Microsoft utilizaría el término “integrado” si no fuera así?

También hay formas de ejecutar Google Gemini Nano (un pequeño modelo de lenguaje) directamente en Google Chrome, y te sorprenderá lo increíblemente rápido que se ejecuta si miras el video anterior compartido por Morten Just en X.

Lo que es particularmente interesante es que estos modelos alojados localmente funcionan completamente sin conexión, por lo que no tienes que preocuparte por compartir tus datos o por la lentitud de Internet.

Por supuesto, ejecutar modelos de IA localmente en Edge es una idea que requiere mucho trabajo, y se puede esperar que la integración no ocupe muchos recursos del sistema.

Además de la IA local, Edge también quiere reducir el desorden e integrar el ahorro de energía de Windows 11 para reducir el consumo de energía.