Opera ist der erste große Browser, der lokale KI-Modelle integriert

Was Sie wissen sollten

• Opera ist der erste Browser, der integrierte Unterstützung für lokale LLMs bietet (ungefähr 150 an der Zahl).
• Lokale LLMs sind ideal für mehr Privatsphäre und Sicherheit sowie für den Offline-Zugriff auf die KI-Modelle. Ihre Geschwindigkeit hängt jedoch von den Fähigkeiten Ihres Computers ab.
• Der Zugriff auf lokale KI-Modelle ist im Entwickler-Stream von Opera One verfügbar.

Opera integriert Unterstützung für 150 lokale LLM-Varianten (Large Language Model) in den Entwicklerstream von Opera One – dem KI-integrierten Browser des Unternehmens. Die Hinzufügung experimenteller lokaler KI-Unterstützung ist die erste für einen Browser und ermöglicht einfachen Zugriff auf KI-Modelle direkt vom Browser aus.

Zu den bekannteren lokalen LLMs in Opera One zählen beispielsweise Llama von Meta, Gemma von Google, Vicuna und Mixtral von Mistral AI. Dazu kommt noch Operas eigener Chatbot Aria.

Benutzer von Opera One Developer können zunächst auf die neueste Browserversion aktualisieren, dann die Modelle auswählen, die sie testen möchten, die neue Funktion aktivieren und das lokale LLM auf ihren Computer herunterladen. Ein typisches LLM benötigt 2 bis 10 GB Speicherplatz. Nach dem Herunterladen können Sie zum lokalen LLM wechseln und es anstelle von Aria verwenden.

Lokale LLMs bieten mehrere Vorteile, wie z. B. mehr Privatsphäre und Sicherheit, da die Daten Ihren Computer nicht verlassen, Offline-Nutzung und insgesamt ein verbessertes Browser-Erlebnis. Der einzige Nachteil eines lokalen LLMs ist, dass es im Vergleich zu serverbasierten LLMs langsamer Ergebnisse liefern kann, da die Verarbeitung vollständig von den Hardwarefunktionen Ihres Computers abhängt. Obwohl es also auf den meisten modernen Computern einwandfrei funktioniert, könnten ältere Geräte Ressourcenengpässe zu spüren bekommen.

Dennoch stellt die Integration lokaler KI-Modelle in den Browser selbst einen großen Fortschritt für Opera dar und es ist möglich, dass sich dieser Trend auch bei anderen großen Browsern durchsetzt.