Opera wordt de eerste grote browser die lokale AI-modellen integreert

Wat te weten

• Opera is de eerste browser die ingebouwde ondersteuning voor lokale LLM’s toevoegt, ongeveer 150 daarvan.
• Lokale LLM’s zijn ideaal voor verbeterde privacy en beveiliging en voor offline toegang tot de AI-modellen. Hun snelheid is echter afhankelijk van de mogelijkheden van uw machine.
• Toegang tot lokale AI-modellen is beschikbaar in de ontwikkelaarsstream van Opera One.

Opera integreert ondersteuning voor 150 lokale LLM-varianten (Large Language Model) in de ontwikkelaarsstroom van Opera One – de AI-geïntegreerde browser van het bedrijf. De toevoeging van experimentele lokale ondersteuning voor AI is de eerste voor een browser en zorgt voor gemakkelijke toegang tot AI-modellen, rechtstreeks vanuit de browser zelf.

Enkele van de meer prominente lokale LLM’s in Opera One zijn onder meer Llama van Meta, Gemma van Google, Vicuna en Mixtral van Mistral AI. Deze vormen een aanvulling op Opera’s eigen Aria-chatbot.

Gebruikers van Opera One Developer kunnen beginnen met updaten naar de nieuwste browserversie, vervolgens de modellen selecteren die ze willen testen, de nieuwe functie activeren en de lokale LLM naar hun machine downloaden. Een typische LLM heeft 2 tot 10 GB opslagruimte nodig. Na het downloaden kun je overschakelen naar de lokale LLM en deze gebruiken in plaats van Aria.

Lokale LLM’s hebben verschillende voordelen, zoals betere privacy en beveiliging, omdat de gegevens uw machine niet verlaten, offline gebruik en een verbeterde browserervaring in het algemeen. Het enige nadeel dat een lokale LLM kan hebben, is dat deze traag kan zijn in het leveren van uitvoer vergeleken met servergebaseerde LLM’s, omdat de verwerking volledig afhankelijk is van de hardwaremogelijkheden van uw computer. Dus ook al zou het prima werken voor de meeste moderne machines, oudere apparaten zouden de schaarste aan hulpbronnen kunnen voelen.

Niettemin is de integratie van lokale AI-modellen in de browser zelf een grote stap voorwaarts voor Opera, en we zouden dit alsnog de trend kunnen zien worden onder andere grote browsers.