Opera se torna o primeiro grande navegador a integrar modelos locais de IA

O que saber

• Opera é o primeiro navegador a adicionar suporte integrado para LLMs locais, cerca de 150 deles.
• LLMs locais são ideais para maior privacidade e segurança, bem como para acesso offline aos modelos de IA. A velocidade deles, entretanto, depende das capacidades da sua máquina.
• O acesso aos modelos locais de IA está disponível no fluxo de desenvolvedores do Opera One.

A Opera está integrando suporte para 150 variantes locais de LLM (Large Language Model) no fluxo de desenvolvedores do Opera One – o navegador integrado à IA da empresa. A adição de suporte local experimental para IA é a primeira para um navegador e permite fácil acesso aos modelos de IA diretamente do próprio navegador.

Alguns dos LLMs locais mais proeminentes no Opera One incluem Llama da Meta, Gemma do Google, Vicuna e Mixtral da Mistral AI. Estes são um acréscimo ao chatbot Aria do Opera.

Os usuários do Opera One Developer podem começar atualizando para a versão mais recente do navegador, selecionando os modelos que desejam testar, ativando o novo recurso e baixando o LLM local em sua máquina. Um LLM típico exigirá de 2 a 10 GB de armazenamento. Depois de fazer o download, você poderá mudar e usar o LLM local em vez do Aria.

Os LLMs locais trazem vários benefícios, como melhor privacidade e segurança, já que os dados não saem da sua máquina, uso offline e experiência aprimorada do navegador como um todo. A única desvantagem que um LLM local pode ter é que ele pode ser lento no fornecimento de resultados em comparação com LLMs baseados em servidor, pois o processamento depende totalmente dos recursos de hardware do seu computador. Portanto, embora funcionasse perfeitamente para a maioria das máquinas modernas, os dispositivos mais antigos poderiam sentir a escassez de recursos.

No entanto, a integração de modelos locais de IA no próprio navegador é um grande avanço para o Opera, e ainda podemos ver isso se tornando uma tendência entre outros navegadores importantes.