Aparentemente, planilhas são tudo que você precisa para entender como funciona um LLM

Todos nós usamos LLM agora, seja ChatGPT, Gemini ou o mais novo Grok-1 lançado como código aberto . Mas você sabe como eles funcionam para lhe dar uma resposta?

Ishan Anand, um desenvolvedor de software que também admite ser apaixonado por planilhas, conduziu um experimento para explicar o mecanismo por trás dos LLMs que todos possam entender.

Ele incorporou uma versão pequena do GPT-2 em uma planilha do Excel e acompanhou seu algoritmo para saber como ele responde a uma pergunta simples.

Como funciona o ChatGPT 2.0 no Excel?

Primeiramente, você deve entender que o GPT-2 foi lançado em 2019 e não foi possível conversar. O primeiro bot de IA conversacional surgiu em 2022 com GPT-3.

Embora tudo estivesse nas manchetes da mídia, o GPT-2 só poderia usar 1,5 bilhão de parâmetros, enquanto o GPT-3 estendeu esse número para 175 bilhões de parâmetros.

A Open AI não o lançou como um bot conversacional simplesmente porque tinha tokens de entrada limitados. O GPT-2 de Ishan Anand no Excel pode lidar apenas com 10 tokens de entrada, o que é uma quantidade pequena para qualquer consulta possível.

No entanto, em seu experimento, ele testou o LLM para completar a frase. Mike é rápido. Ele se move… Se você assistir ao vídeo acima, verá exatamente como o GPT-2 usou a planilha para chegar à dedução de que a palavra que faltava foi rapidamente.

O objetivo do desenvolvedor era nos fazer acreditar que se entendermos planilhas Excel, também poderemos entender como funciona um LLM.

Você entendeu a explicação do vídeo? Vamos discutir na seção de comentários abaixo.