Nowe kodowanie LLM firmy Microsoft pojawi się po GPT 4

Microsoft naprawdę robi duży krok w rozwoju sztucznej inteligencji. W zeszłym miesiącu AI była na czele konferencji Microsoft Build, a technologia z Redmond ogłosiła nawet, że Copilot pojawi się w Windows 11 . Jako natywna wbudowana aplikacja do wszystkiego, czego potrzebujesz,

Sztuczna inteligencja pojawia się również w usłudze Microsoft Teams w narzędziu Recap Ai . Wiele innych narzędzi firmy Microsoft będzie wykorzystywać sztuczną inteligencję, w tym Microsoft Fabric.

Wygląda jednak na to, że Microsoft finansuje również badania nad sztuczną inteligencją. Niedawno gigant technologiczny ogłosił, że Orca 13B będzie open source . A LongMem to kolejny dobry punkt w badaniach AI : jest to odpowiedź na nieograniczoną długość kontekstu.

A teraz nadszedł czas na kolejny wielki przełom w badaniach nad sztuczną inteligencją, oczywiście pochodzący od Microsoftu. Nowy model kodowania parametrów 1.3B LLM, nazwany phi-1, podobno przewyższa GPT 3.5, po zaledwie 4 dniach szkolenia.

Co to jest phi-1 i jak już przewyższa GPT?

Phi-1 to nowy model języka z parametrami 1.3B dla kodu

Co więcej, pomimo przeszkolenia na znacznie mniejszej liczbie tokenów w porównaniu z istniejącymi modelami, phi-1 wciąż ma duży potencjał.

Ulepszenia HumanEval to największe osiągnięcia phi-1 jako modelu językowego. Po dostrojeniu phi-1 udało się wykonać zadania, które nie zostały uwzględnione w zbiorze danych dostrajających. Oznacza to, że model dostosował i udoskonalił proces dostrajania.

A najbardziej niezwykłe jest to, że phi-1 zreorganizował i skonsolidował wiedzę zdobytą podczas szkolenia wstępnego, mimo że wiedza ta nie była tam wyraźnie obecna.

Krótko mówiąc, phi-1 nie tylko uczy się podczas szkoleń, ale także samodzielnie poszerza wiedzę. Udało mu się przewyższyć GPT 3.5 na każdym poziomie i to tylko kwestia czasu, zanim mały model przejmie duże, takie jak GPT 4.

Co sądzisz o tym nowym modelu AI? Jak myślisz, dokąd zmierzają badania nad sztuczną inteligencją? Daj nam znać swoje opinie w sekcji komentarzy poniżej.