Apparentemente, i fogli di calcolo sono tutto ciò che ti serve per capire come funziona un LLM

Usiamo tutti LLM in questo momento, che si tratti di ChatGPT, Gemini o del più recente Grok-1 rilasciato come open source . Ma sai come funzionano per fornirti una risposta?

Ishan Anand, uno sviluppatore di software che ammette anche di essere appassionato di fogli di calcolo, ha condotto un esperimento per spiegare il meccanismo alla base degli LLM in modo che tutti possano capirlo.

Ha incorporato una piccola versione di GPT-2 in un foglio di calcolo Excel e ha monitorato il suo algoritmo su come risponde a una semplice domanda.

Come funziona ChatGPT 2.0 in Excel?

Innanzitutto devi capire che GPT -2 è stato rilasciato nel 2019 e non è stato possibile conversare. Il primo bot AI conversazionale è arrivato nel 2022 con GPT-3.

Mentre era tutto finito nei titoli dei media, GPT-2 poteva utilizzare solo 1,5 miliardi di parametri mentre GPT-3 estendeva quella cifra a 175 miliardi di parametri.

Open AI non lo ha rilasciato come bot conversazionale semplicemente perché aveva token di input limitati. GPT-2 di Ishan Anand in Excel può gestire solo 10 token di input, una quantità minima per qualsiasi possibile query.

Tuttavia, nel suo esperimento, ha testato il LLM per completare la frase Mike è veloce. Si muove… Se guardi il video qui sopra, vedrai esattamente come GPT-2 ha utilizzato il foglio di calcolo per dedurre che la parola mancante è stata rapidamente.

Lo scopo dello sviluppatore era farci credere che se comprendiamo i fogli di calcolo Excel, possiamo anche capire come funziona un LLM.

Hai capito la spiegazione nel video? Discutiamo nella sezione commenti qui sotto.