Apparemment, les feuilles de calcul sont tout ce dont vous avez besoin pour comprendre le fonctionnement d’un LLM.

Nous utilisons tous LLM en ce moment, qu’il s’agisse de ChatGPT, Gemini ou du dernier Grok-1 publié en open source . Mais savez-vous comment ils fonctionnent pour vous apporter une réponse ?

Ishan Anand, un développeur de logiciels qui admet également être passionné par les feuilles de calcul, a mené une expérience pour expliquer le mécanisme derrière les LLM que tout le monde peut comprendre.

Il a intégré une petite version de GPT-2 dans une feuille de calcul Excel et a suivi son algorithme sur la manière dont il répond à une question simple.

Comment fonctionne ChatGPT 2.0 dans Excel ?

Tout d’abord, vous devez comprendre que GPT -2 est sorti en 2019 et qu’il n’a pas été possible de converser. Le premier robot d’IA conversationnelle est arrivé en 2022 avec GPT-3.

Alors que cela faisait la une des médias, GPT-2 ne pouvait utiliser que 1,5 milliard de paramètres tandis que GPT-3 étendait ce chiffre à 175 milliards de paramètres.

Open AI ne l’a pas publié en tant que robot conversationnel simplement parce qu’il disposait de jetons d’entrée limités. Le GPT-2 d’Ishan Anand dans Excel ne peut gérer que 10 jetons d’entrée, ce qui représente une quantité infime pour toute requête possible.

Cependant, dans son expérience, il a testé le LLM pour compléter la phrase Mike est rapide. Il bouge… Si vous regardez la vidéo ci-dessus, vous verrez exactement comment GPT-2 a utilisé la feuille de calcul pour déduire que le mot manquant était rapide.

Le but du développeur était de nous faire croire que si l’on comprend les feuilles de calcul Excel, on peut aussi comprendre le fonctionnement d’un LLM.

Avez-vous compris l’explication dans la vidéo ? Discutons-en dans la section commentaires ci-dessous.