O que são plug-ins ChatGPT e como funcionam

O ChatGPT surpreendeu o mundo nos últimos meses, desde que foi lançado ao público. Na verdade, foram apenas alguns meses? O impacto que causou faz parecer que já existe há anos.

Mas, apesar de todas as suas virtudes, tinha uma pequena falha que não era tão pequena; não teve acesso a informações recentes. A única informação que tinha era até meados de 2021. Mas a OpenAI está finalmente começando a mudar isso. Não, ele não foi treinado em dados mais recentes. No entanto, a OpenAI está finalmente implementando suporte inicial para plug-ins no ChatGPT que permitem a conexão à Internet, bem como a alguns serviços de terceiros!

O que são plug-ins do ChatGPT?

Plugins são ferramentas que foram projetadas especificamente para modelos de linguagem. Eles aprimoram os recursos do chatbot e permitem que ele realize tarefas anteriormente impossíveis. Por exemplo, agora ele pode recuperar informações em tempo real, como placares esportivos, preços de ações, realizar ações em nome de um usuário, como reservar voos e recuperar informações da base de conhecimento, como documentos da empresa, etc.

Desde o lançamento do ChatGPT, os plugins foram o item mais procurado pelos usuários, e o OpenAI finalmente foi entregue. Mas o lançamento deles será gradual e iterativo. Inicialmente, a OpenAI lançou apenas alguns plugins de terceiros e alguns plugins próprios.

O acesso para usuários, bem como para desenvolvedores que desejam criar plugins, também é limitado no momento. Além disso, como usuário final, o acesso está sendo concedido apenas a usuários do ChatGPT Plus no momento, mas o ChatGPT diz que planeja expandir o lançamento no futuro.

O acesso só pode ser solicitado após entrar na lista de espera , o que envolve o preenchimento de um pequeno questionário sobre o motivo pelo qual você deseja acessar e se deseja fornecer feedback.

A lista de plugins de terceiros inclui:

• Expedia – Este plugin permitirá que você planeje sua próxima viagem com o ChatGPT, com informações completas sobre disponibilidade e preço de hotéis, voos, etc.
• FiscalNote – Este plug-in do ChatGPT permitiria o acesso a informações e dados jurídicos, políticos e regulatórios em tempo real.
• Instacart – Use o ChatGPT para fazer pedidos em mercearias e supermercados próximos.
• KAYAK – Use o KAYAK dentro do ChatGPT para encontrar carros, hotéis, locações, etc. dentro do seu orçamento definido.
• Klarna Shopping – Pesquise e compare preços de várias lojas online em sua conversa ChatGPT.
• Milo Family AI – O plug-in para os pais sobrecarregarem a paternidade.
• OpenTable – Obtenha recomendações de restaurantes e links de reserva em chats.
• Compre na Shopify – Pesquise produtos de diferentes marcas.
• Slack – Use o ChatGPT com o Slack para agilizar a comunicação
• Speak – Obtenha um tutor de idiomas com tecnologia de IA
• Wolfram – Obtenha o ChatGPT para acessar cálculos, conhecimentos matemáticos, etc.
• Zapier – Use este plug-in para interagir com mais de 5.000 aplicativos dentro do ChatGPT.

Existem também dois plugins do próprio OpenAI: Browsing (um navegador da web) e um interpretador de código, e um plugin de código aberto, chamado Retriever. Todos os plugins estão atualmente na fase de testes Alpha.

Como esses plugins funcionam?

De acordo com a OpenAI, os plugins são “olhos e ouvidos” para modelos de linguagem como o ChatGPT. O fato sobre os modelos de linguagem é que eles só podem aprender com seus dados de treinamento e esse aprendizado pode ser limitado. O ChatGPT só pode fornecer instruções baseadas em texto por conta própria. Esses plug-ins podem fazê-lo seguir essas instruções, bem como disponibilizar informações muito recentes, muito pessoais ou muito específicas e que não podem ser incluídas nos dados de treinamento.

Mas há uma preocupação de segurança que surge quando você pensa em um modelo de IA seguindo instruções e realizando ações em seu nome. Essa é a razão pela qual os plugins estão sendo lançados lentamente. A OpenAI está construindo-os com segurança como princípio fundamental e monitorará seu uso no mundo real.

Vamos dar uma olhada em como alguns desses modelos de plug-in funcionam.

Navegando

Este é o plugin que conecta o ChatGPT à internet e é um dos dois plugins do próprio OpenAI. O plug-in usa a API de pesquisa do Bing da Microsoft em uma reviravolta não tão curiosa; as duas empresas têm acordos que remontam anos. Além dos investimentos iniciais, a Microsoft agora também usa a tecnologia OpenAI para alimentar seu novo Bing AI.

O modelo não só sabe como navegar na internet, mas também sabe quando navegar na internet e quando não. Por exemplo, quando um usuário solicita ao ChatGPT informações sobre o Oscar 2023, ele pesquisa com precisão a consulta na Internet. Mas quando perguntado sobre o primeiro Oscar já realizado, ele não pesquisa na internet, porque essa informação faz parte de seus dados de treinamento.

Assim, para fazer com que o ChatGPT navegue na internet, terá de selecionar o modelo/plugin ‘Browsing’.

Agora, quando um usuário insere um prompt que exige que ele navegue na Internet, ele o fará; o processo levará algum tempo, pois o bot precisará de tempo para se familiarizar com as informações. Você pode ver o fluxo de ação do ChatGPT até que ele gere uma resposta expandindo o bloco ‘Navegando na web…’.

Lá, você pode ver quais consultas ele pesquisou, em quais links clicou e quando está lendo em tempo real. Ele usa um navegador da Web baseado em texto para ir além dos resultados da pesquisa e realmente ler e navegar nos sites.

Assim que o ChatGPT estiver atualizado com os eventos, ele lhe dará uma resposta em seu modelo de linguagem natural, como antes. Mas a resposta incluirá citações quando for gerada com o modelo Browsing. Ao clicar na citação, você será direcionado para o site. Esse aspecto específico é o mesmo do Bing Chat AI.

Do ponto de vista da segurança, o navegador baseado em texto só pode fazer solicitações GET, o que reduz certos riscos. Por exemplo, o modelo só pode recuperar informações da internet, mas não pode realizar operações “transacionais”, como enviar um formulário.

Intérprete de código

O modelo Code Interpreter, o segundo plugin da OpenAI, fornece ao ChatGPT um interpretador Python. Ele também fornece algum espaço em disco de curta duração.

A sessão está ativa durante um único bate-papo, portanto, a próxima chamada pode ser construída sobre uma chamada anterior, mas há um limite de tempo máximo. Além disso, o Code Interpreter também suporta upload de arquivos e download de arquivos com os resultados.

Para mantê-lo seguro, o OpenAI o mantém em um ambiente de execução com firewall e sandbox. O acesso à Internet também está desabilitado para o Code Interpreter. De acordo com a OpenAI, embora esse movimento limite a funcionalidade do modelo, eles acham que é o movimento certo inicialmente.

O modelo ‘Code Interpreter’ deve ser selecionado antes de iniciar a conversa.

Depois que o usuário insere os prompts que exigem o uso do plug-in Code Interpreter, o ChatGPT começa a usá-lo para realizar os cálculos necessários. Assim como na navegação, o usuário pode ver o fluxo de cálculos do ChatGPT clicando em ‘Mostrar trabalho’ e todas as etapas do cálculo estarão visíveis.

Em testes iniciais, OpenAI descobriu que este plugin é útil em certos cenários. Esses incluem:

• Resolver problemas matemáticos, tanto quantitativos quanto qualitativos, que, francamente, os usuários achavam que o ChatGPT era uma porcaria antes.
• Fazendo análise e visualização de dados, o que deixa muitos usuários empolgados.
• Convertendo arquivos entre formatos

A OpenAI espera que os usuários descubram tarefas mais úteis que o interpretador de código pode executar enquanto o experimentam.

Plug-ins de terceiros

O restante dos plug-ins se enquadra no modelo de plug-ins. Isso também inclui o plug-in Retriever de código aberto da OpenAI que os desenvolvedores poderão usar e 12 plug-ins de terceiros.

Depois que o modelo de plug-ins é selecionado no menu suspenso, o usuário pode instalar os plug-ins desejados na loja.

Veja como os plugins funcionarão em poucas palavras:

Depois que os usuários ativam um plug-in instalando-o (eles não serão ativados automaticamente) e iniciam a conversa, o OpenAI injeta uma descrição compacta do plug-in no ChatGPT em uma mensagem. Esta mensagem não é visível para os usuários finais, mas incluirá a descrição do plug-in, endpoints e exemplos. Assim, até que você opte por usar um plugin em uma conversa, o ChatGPT não terá nenhum conhecimento sobre isso. Você deve ativar os plugins que deseja usar em todas as conversas.

Agora, você pode colocar sua consulta no ChatGPT. Se o bot achar relevante invocar o plug-in, ele o fará usando uma chamada de API. Em outras palavras, ele pode decidir se um plug-in precisa ser invocado.

Em seguida, ele incluirá os resultados obtidos do plug-in na resposta gerada para você.

Aqui está um exemplo de como o ChatGPT usa plugins do OpenTable, Wolfram e Instacart. Um utilizador pede ao ChatGPT que recomende um restaurante vegano para o sábado e uma receita vegana para o domingo. Eles também pedem para calcular as calorias da receita que recomenda usando Wolfram, bem como para solicitar os ingredientes da receita da Instacart. O bot AI faz exatamente isso.

Primeiro, ele usa o OpenTable para recomendar um restaurante e um link para fazer uma reserva.

Ele recomenda uma receita vegana (o que poderia fazer anteriormente) e calcula as calorias da receita usando o Wolfram.

Por fim, adiciona todos os ingredientes necessários ao carrinho no Instacart e apresenta ao usuário o link no qual o usuário pode simplesmente clicar para concluir o pedido!

Os plug-ins vão mudar completamente a maneira como o ChatGPT funcionará. A velocidade com que a IA está progredindo nos últimos meses está tornando esse momento igualmente assustador e ótimo para se estar vivo, não é?