Microsoft Edge kann das Phi3 Mini-KI-Modell möglicherweise lokal unter Windows 11 und Windows 10 ausführen

Microsoft scheint eine neue Funktion zu testen, die es dem Edge-Browser ermöglichen könnte, eine kleine Sprache namens „Phi3 Mini“ lokal auszuführen. Das bedeutet, dass Sie Microsoft Edge verwenden können, um mit einem der kleinen Sprachmodelle von Microsoft direkt auf einem Windows 11- (und Windows 10-)PC zu spielen. Dies geht aus neuen experimentellen Flags hervor, die in Edge Canary entdeckt wurden.

Wie unser Leser Leo auf X bemerkt hat und von Windows Latest bestätigt wurde, gibt es ein neues Flag namens „Prompt API for Phi3 min“. Microsoft beschreibt es als eine Möglichkeit, die „explorative Prompt API“ zu aktivieren, die es Ihnen ermöglicht, mit einem „integrierten großen Sprachmodell“ (Phi3 Mini in Edge) zu interagieren.

„Aktiviert die explorative Prompt-API, mit der Sie Anweisungen in natürlicher Sprache an ein integriertes großes Sprachmodell (Phi3 Mini in Edge) senden können. Explorative APIs sind für lokales Prototyping konzipiert, um potenzielle Anwendungsfälle zu entdecken, und werden möglicherweise nie gestartet. Diese Erkundungen werden die integrierte KI-Roadmap beeinflussen“, bestätigte Microsoft das Experiment über das Edge-Flags-Menü.

Wird Edge wirklich ein KI-Modell lokal hosten?

Warum glauben wir, dass das Modell lokal gehostet werden könnte?

Die Verwendung des Begriffs „explorativ“ lässt darauf schließen, dass an der Idee des kleinen Sprachmodells von Edge noch gearbeitet wird und dass es sich wahrscheinlich noch in einem sehr frühen Entwicklungsstadium befindet.

Microsoft scheint das vollwertige große Sprachmodell offensichtlich nicht lokal in Edge zu hosten, was praktisch nicht möglich ist. Es ist möglich, dass das Unternehmen versucht, Teile des kleinen Sprachmodells zu verwenden, um neue Funktionen im Browser zu ermöglichen.

Es ist NICHT für Anwendungsfälle geeignet, bei denen sachliche Genauigkeit erforderlich ist (z. B. das Beantworten von Wissensfragen)“, merkte Microsoft in der Beschreibung der experimentellen Flagge an.

Microsoft testet, wie es direkt über den Edge-Browser funktioniert. Die API ist für wirklich einfache Aufgaben wie das Zusammenfassen oder Umformulieren von Texten konzipiert. Das Unternehmen weist auch darauf hin, dass die API bei wissensbasierten Fragen nicht genau sein muss.

Aber wie könnte Microsoft lokale KI in Edge integrieren? Sie können beispielsweise einige hundert Wörter Text auswählen, mit der rechten Maustaste klicken und dann den integrierten Edge-KI-Prozess verwenden, um den Text lokal „zusammenzufassen oder umzuformulieren“.

Dies ist bereits über Copilot möglich, aber wenn die Daten lokal verarbeitet werden, sind die Antworten in der Regel schneller und vertraulicher.

Darüber hinaus erwähnt Microsoft „lokales Prototyping“, was ein weiteres klares Zeichen dafür ist, dass das Unternehmen mit dem lokalen Hosten der API experimentiert. Der Begriff „integriertes großes Sprachmodell“ bestätigt auch, dass dieses Modell in den Edge-Browser selbst integriert ist.

Warum würde Microsoft den Begriff „integriert“ verwenden, wenn dies nicht der Fall wäre?

Es gibt auch Möglichkeiten, Google Gemini Nano (ein kleines Sprachmodell) direkt in Google Chrome auszuführen, und Sie werden überrascht sein, wie wahnsinnig schnell es läuft, wenn Sie sich das obige, von Morten Just auf X geteilte Video ansehen .

Besonders interessant ist, dass diese lokal gehosteten Modelle vollständig offline funktionieren, sodass Sie sich keine Gedanken über die Freigabe Ihrer Daten oder langsames Internet machen müssen.

Natürlich ist die lokale Ausführung von KI-Modellen in Edge eine Idee, die viel Arbeit erfordert, und man kann hoffen, dass die Integration nicht viele Systemressourcen in Anspruch nimmt.

Neben der lokalen KI will Edge auch für weniger Unordnung sorgen und die Energiesparfunktionen von Windows 11 integrieren, um den Stromverbrauch zu senken.