Najwyraźniej arkusze kalkulacyjne to wszystko, czego potrzebujesz, aby zrozumieć, jak działa LLM

Wszyscy korzystamy teraz z LLM, niezależnie od tego, czy jest to ChatGPT, Gemini, czy najnowszy Grok-1 wydany jako open source . Ale czy wiesz, jak działają, aby udzielić Ci odpowiedzi?

Ishan Anand, programista, który również przyznaje, że pasjonuje się arkuszami kalkulacyjnymi, przeprowadził eksperyment, aby wyjaśnić mechanizm stojący za LLM w sposób zrozumiały dla każdego.

Osadził małą wersję GPT-2 w arkuszu kalkulacyjnym Excel i prześledził, jak algorytm odpowiada na proste pytanie.

Jak ChatGPT 2.0 działa w Excelu?

Po pierwsze, musisz zrozumieć, że GPT -2 został wydany w 2019 roku i nie można było rozmawiać. Pierwszy konwersacyjny bot AI pojawił się w 2022 roku wraz z GPT-3.

Choć było już o tym głośno w nagłówkach mediów, GPT-2 mógł wykorzystać jedynie 1,5 miliarda parametrów, podczas gdy GPT-3 rozszerzył tę liczbę do 175 miliardów parametrów.

Open AI nie wypuściło go jako bota konwersacyjnego tylko dlatego, że miał ograniczone tokeny wejściowe. GPT-2 Ishana Ananda w Excelu może obsłużyć tylko 10 tokenów danych wejściowych, co stanowi niewielką ilość dla każdego możliwego zapytania.

Jednak w swoim eksperymencie przetestował LLM, aby dokończyć zdanie Mike jest szybki. Porusza się… Jeśli obejrzysz powyższy film, zobaczysz dokładnie, jak GPT-2 wykorzystał arkusz kalkulacyjny, aby dojść do wniosku, że brakujące słowo było szybko.

Celem programisty było przekonanie nas, że jeśli zrozumiemy arkusze kalkulacyjne Excel, możemy również zrozumieć, jak działa LLM.

Czy zrozumiałeś wyjaśnienie w filmie? Porozmawiajmy w sekcji komentarzy poniżej.