Lokale AI-modellen inschakelen en gebruiken op Opera One Developer

2024/04/04

Wat te weten

Met Opera kunt u AI-modellen lokaal downloaden en gebruiken in de Opera One Developer-browser.
Schakel AI-modellen in en download ze via het Aria-zijpaneel (aan de linkerkant) en kies vervolgens lokaal AI-model > Instellingen .

Opera heeft onlangs de integratie aangekondigd van lokale AI-modellen in zijn Opera One-browser. Met deze ontwikkeling, die van Opera de eerste grote browser met ingebouwde AI-modellen heeft gemaakt, kun je nu kiezen uit 150 Large Language Models (LLM’s), deze lokaal opslaan en offline gebruiken. Het is ook een meer persoonlijke en veilige manier om AI op uw machine te gebruiken.

Lokale AI-modellen inschakelen in Opera One Developer

Momenteel is de optie om AI lokaal te downloaden en te gebruiken in Opera One alleen beschikbaar voor de ontwikkelaarsversie van de browser. Hier leest u hoe u de browser instelt en lokale LLM’s inschakelt.

Opera One-ontwikkelaar | Download link

Open de bovenstaande link en klik op Nu downloaden onder ‘Opera One-ontwikkelaar’.
Na het downloaden voert u de installatie uit en volgt u de instructies op het scherm.
Om AI-modellen te kunnen gebruiken, moet u zich aanmelden bij uw Opera-account. U kunt zich aanmelden met uw e-mailadres of een Gmail-, Facebook- of Apple-account gebruiken.
Klik vervolgens op Opera’s standaard AI ‘Aria’ in het zijpaneel aan de linkerkant.
Klik onder ‘Nieuwe chat’ op Kies lokaal AI-model .
Klik op Ga naar instellingen .
Zorg er hier voor dat de optie Lokale AI-modellen inschakelen in chat is ingeschakeld.

Lokale AI-modellen downloaden en gebruiken op Opera One Developer

De Opera One-ontwikkelaar biedt verschillende AI-modellen die u lokaal vanuit de browser zelf kunt downloaden en gebruiken. Hier leest u hoe u dit doet:

Open Aria via het zijpaneel aan de linkerkant.
Onder ‘Lokale AI-modellen’ vindt u een aantal LLM’s waaruit u kunt kiezen, waaronder Meta’s Llama, Google’s Gemma, Vicuna en Mistral AI’s Mixtral, Starcoder , enz. Klik op een AI-model om het te bekijken. .
In de meeste gevallen zie je twee of meer varianten die je kunt downloaden.
Voor demonstratiedoeleinden kiezen we voor een lichtgewicht AI-model – Phi-2 van Microsoft. Klik op de downloadknop naast het model van uw voorkeur.
Wacht tot de LLM op uw computer is gedownload.
Om vervolgens over te schakelen van het standaard AI-model Aria van Opera One naar de gedownloade LLM, klikt u op de menuknop in de linkerbovenhoek.
Selecteer Nieuwe chat .
Klik onder ‘Nieuwe chat’ op Kies lokaal AI-model .
Selecteer vervolgens uw gedownloade AI-model.
En zomaar heb je nu lokaal toegang tot het AI-model in de Opera One-browser. Typ een prompt om deze te gaan gebruiken zoals elke andere AI-chatbot.

FAQ

Laten we eens kijken naar enkele veelgestelde vragen over het gebruik van lokale AI-modellen in de Opera One-browser.

Wat zijn de voordelen van het lokaal gebruiken van AI-modellen?

De vele voordelen van het lokaal gebruik van AI-modellen zijn onder meer betere privacy en beveiliging vergeleken met het online gebruik van AI-chatbots die afhankelijk zijn van het verzenden van de gegevens naar de servers. En omdat de LLM lokaal wordt opgeslagen, heb je niet eens een internetverbinding nodig om met AI te chatten.

Welk AI-model moet ik downloaden voor de Opera One-browser?

Er zijn verschillende AI-modellen die je lokaal kunt opslaan en de meeste daarvan hebben meerdere varianten, afhankelijk van het aantal parameters (in miljarden) dat in hun training is opgenomen. Opera belicht echter een paar interessante LLM’s die u kunt verkennen, zoals Code Llama, ideaal voor coderen, Phi-2, goed voor vraag-antwoord-chats, en Mixtral, vanwege zijn prestaties, toegankelijkheid en veelzijdigheid.

Hoe schakel ik terug naar Aria?

Om terug te schakelen naar Opera’s eigen AI-chatbot Aria, start u eenvoudigweg een nieuwe chat.

We hopen dat deze handleiding u heeft geholpen bij het lokaal instellen en gebruiken van AI-modellen in de Opera One Developer-browser. Tot de volgende keer!