Przewodnik po uruchamianiu Microsoft Phi-3 AI lokalnie w systemie Windows

Notatki kluczowe

• Phi-3 firmy Microsoft to kompaktowy, ale solidny model sztucznej inteligencji, który można uruchomić lokalnie na komputerach z systemem Windows.
• Użyj Ollama za pomocą polecenia ollama run phi3 w terminalu, aby wejść w interakcję z SI.
• Jeśli chcesz uzyskać interakcję wizualną, możesz skorzystać z LM Studio i zintegrować model Phi-3 z oddzielnego pobrania.

Odblokowanie mocy sztucznej inteligencji: uruchamianie Phi-3 firmy Microsoft na komputerze z systemem Windows

Model Phi-3 AI firmy Microsoft wywołał poruszenie w społeczności technologicznej, co sprawiło, że entuzjaści i deweloperzy muszą wiedzieć, jak uruchomić go lokalnie. Ten przewodnik zawiera instrukcje krok po kroku dotyczące instalowania i używania Phi-3 za pośrednictwem Ollama i LM Studio, zapewniając dostęp do jego możliwości bez konieczności połączenia internetowego.

Podstawowe informacje przed rozpoczęciem

• Phi-3 firmy Microsoft to niewielki, ale wydajny model sztucznej inteligencji, który można uruchomić lokalnie w systemie Windows.
• Zainstaluj Ollamę, a następnie uruchom polecenie ollama run phi3 w aplikacji terminalowej (np. CMD).Po pobraniu Phi-3 będziesz mógł rozmawiać z SI bezpośrednio w terminalu.
• Możesz również użyć oprogramowania takiego jak LM Studio jako graficznego interfejsu do czatowania z Phi-3 lokalnie. Pobierz plik Phi-3 guff osobno i zapisz go w katalogu LM Studio. Następnie załaduj model w LM Studio i zacznij czatować z Phi-3 lokalnie w systemie Windows.

Uruchamianie Phi-3 firmy Microsoft w systemie Windows za pomocą Ollama

Ollama zapewnia doskonałe ramy do uruchamiania dużych modeli językowych lokalnie. Oto jak go używać, aby uruchomić Phi-3 firmy Microsoft na komputerze z systemem Windows.

Krok 1: Zdobądź i skonfiguruj Ollamę

Zacznij od pobrania i zainstalowania Ollama:

• Ollama dla Windows | Link do pobrania

1. Kliknij Pobierz dla Windows (wersja zapoznawcza) korzystając z łącza powyżej.
2. Po pobraniu uruchom plik instalacyjny.
3. Aby przejść przez proces instalacji, kliknij Zainstaluj.

Krok 2: Wykonaj polecenie Phi-3, aby pobrać model

Aby pobrać model Phi-3, wykonaj następujące kroki:

1. Odwiedź Ollama.com i przejdź do sekcji Modele.
2. Wyszukaj i zlokalizuj phi3.
3. Skopiuj polecenie dostępne do pobrania phi3.
4. Otwórz wiersz poleceń (lub inny wybrany terminal) z menu Start.
5. Wklej skopiowane polecenie w aplikacji terminalowej.
6. Naciśnij Enter i poczekaj na pobranie modelu Phi-3.
7. Po wyświetleniu monitu „Wyślij wiadomość” model jest gotowy do interakcji.

Krok 3: Rozpocznij rozmowy z Phi-3 LLM firmy Microsoft

Wejdź bezpośrednio w interakcję z modelem w swoim terminalu. Wpisz swój monit i naciśnij Enter. Oto kilka funkcjonalności, które możesz zbadać:

Testowanie odporności na cenzurę:

Ocena zrozumienia złożonych tematów:

Wykrywanie halucynacji:

Ocena kreatywności:

Uruchamianie Phi-3 firmy Microsoft w systemie Windows przy użyciu LM Studio

Jeśli do interakcji z Phi-3 preferowany jest prostszy, graficzny interfejs, rozważ użycie LM Studio. Oto jak to skonfigurować:

Krok 1: Pobierz i zainstaluj LM Studio

• LM Studio | Link do pobrania

1. Skorzystaj z podanego łącza, aby pobrać LM Studio dla systemu Windows.
2. Otwórz instalator i pozwól mu na dokończenie instalacji LM Studio.

Krok 2: Zdobądź plik Phi-3 GGUF

Aby zintegrować Phi-3 z LM Studio, należy osobno pobrać plik GGUF:

• Plik Phi-3-Mini GGUF | Link do pobrania

1. Kliknij link i wybierz Pliki.
2. Wybierz wersję modelu Phi-3. Zalecamy wybranie mniejszej wersji ze względu na łatwość użytkowania.
3. Rozpocznij pobieranie wybranej wersji.
4. Zapisz plik w miejscu, do którego będziesz miał łatwy dostęp.

Krok 3: Dodaj model Phi-3 do LM Studio

Teraz załaduj pobrany model Phi-3:

1. Uruchom LM Studio i kliknij Moje modele.
2. Sprawdź „Folder modeli lokalnych” i otwórz go, klikając opcję Pokaż w Eksploratorze plików.
3. Utwórz w katalogu folder o nazwie Microsoft.
4. W folderze Microsoft utwórz kolejny folder o nazwie Phi-3.
5. Przenieś pobrany plik GGUF do folderu Phi-3.
6. Po przeniesieniu pliku powinien on zostać wyświetlony w LM Studio (może być konieczne ponowne uruchomienie aplikacji).
7. Aby wejść w interakcję, wybierz opcję Czat AI w menu.
8. Wybierz opcję Wybierz model do załadowania i wybierz model Phi-3.
9. Poczekaj, aż LM Studio załaduje model.
10. Aby uzyskać optymalną wydajność, rozważ skonfigurowanie modelu do działania za pośrednictwem procesora graficznego (GPU).W tym celu dostosuj ustawienia w obszarze Konfiguracja zaawansowana > Ustawienia sprzętowe.
11. Zmień „Przyspieszenie GPU” na Maksymalne.
12. Kliknij opcję Przeładuj model, aby zastosować konfigurację.
13. Po pełnym załadowaniu modelu można rozpocząć interakcje w LM Studio.

Krok 4: Rozpocznij rozmowę z Phi-3 LLM firmy Microsoft

Jesteś teraz gotowy do współpracy z modelem! Wprowadź dowolny monit i nawet bez połączenia internetowego ciesz się czatowaniem lokalnie z Phi-3 firmy Microsoft na swoim komputerze z systemem Windows.

Streszczenie

Ten samouczek dostarczył Ci niezbędnych kroków, aby uruchomić Phi-3 firmy Microsoft na Twoim komputerze z systemem Windows, niezależnie od tego, czy wybierzesz interfejs wiersza poleceń z Ollama, czy interfejs graficzny LM Studio. Obie metody otwierają nowe możliwości interakcji z AI.

Wniosek

Dzięki tym spostrzeżeniom i instrukcjom możesz lokalnie eksplorować możliwości Phi-3 firmy Microsoft. Niezależnie od tego, czy wolisz polecenia terminalowe, czy bardziej wizualne doświadczenie, wybór należy teraz do Ciebie. Zanurz się w fascynującym świecie AI i ciesz się interakcjami!

FAQ (najczęściej zadawane pytania)