Guida all’esecuzione di Microsoft Phi-3 AI in locale su Windows

Note chiave

  • Phi-3 di Microsoft è un modello di intelligenza artificiale compatto ma robusto che può essere eseguito localmente su macchine Windows.
  • Utilizza Ollama con il comando ollama run phi3 in un terminale per interagire con l’IA.
  • Per un’interazione visiva, è possibile utilizzare LM Studio e integrare il modello Phi-3 da un download separato.

Sbloccare la potenza dell’intelligenza artificiale: eseguire Phi-3 di Microsoft sul tuo PC Windows

Il modello Phi-3 AI di Microsoft ha fatto scalpore nella comunità tecnologica, rendendo essenziale per gli appassionati e gli sviluppatori sapere come eseguirlo localmente. Questa guida include istruzioni dettagliate sull’installazione e l’utilizzo di Phi-3 tramite Ollama e LM Studio, assicurandoti di poter accedere alle sue capacità senza dover disporre di una connessione online.

Informazioni essenziali prima di iniziare

  • Phi-3 di Microsoft è un modello di intelligenza artificiale piccolo ma potente che può essere eseguito localmente su Windows.
  • Installa Ollama, quindi esegui il comando ollama run phi3 su un’app terminale (come CMD).Una volta scaricato Phi-3, sarai in grado di chattare con l’IA all’interno del terminale stesso.
  • Puoi anche usare un software come LM Studio per un’interfaccia grafica per chattare con Phi-3 localmente. Scarica separatamente il file guff di Phi-3 e salvalo nella directory di LM Studio. Quindi carica il modello in LM Studio e inizia a chattare con Phi-3 su Windows localmente.

Esecuzione di Phi-3 di Microsoft su Windows con Ollama

Ollama fornisce un framework eccellente per l’esecuzione di grandi modelli linguistici in locale. Ecco come utilizzarlo per far funzionare Phi-3 di Microsoft sulla tua macchina Windows.

Passaggio 1: acquisire e configurare Ollama

Inizia scaricando e installando Ollama:

  1. Fare clic su Scarica per Windows (Anteprima) utilizzando il collegamento sopra.
  2. Dopo il download, eseguire il file di installazione.
  3. Completare il processo di installazione cliccando su Installa.

Passaggio 2: eseguire il comando Phi-3 per recuperare il modello

Per scaricare il modello Phi-3, seguire questi passaggi:

  1. Visita Ollama.com e vai alla sezione Modelli.
  2. Cerca e individua phi3.
  3. Copia il comando disponibile per scaricare phi3.
  4. Aprire il Prompt dei comandi (o un terminale a scelta) dal menu Start.
  5. Incollare il comando copiato nell’applicazione terminale.
  6. Premere Invio e attendere il download del modello Phi-3.
  7. Una volta visualizzato il messaggio “Invia un messaggio”, il modello è pronto per l’interazione.

Fase 3: Inizia le conversazioni con Phi-3 LLM di Microsoft

Interagisci direttamente con il modello nel tuo terminale. Digita il tuo prompt e premi Invio. Ecco alcune funzionalità che potresti esplorare:

Test di resistenza alla censura:

Valutazione della comprensione di argomenti complessi:

Rilevamento delle allucinazioni:

Valutazione della creatività:

Esecuzione di Phi-3 di Microsoft su Windows tramite LM Studio

Se preferisci un’interfaccia grafica più semplice per interagire con Phi-3, prendi in considerazione l’utilizzo di LM Studio. Ecco come impostarlo:

Passaggio 1: Scarica e installa LM Studio

  1. Utilizza il link fornito per scaricare LM Studio per Windows.
  2. Aprire il programma di installazione e attendere che completi l’installazione di LM Studio.

Passaggio 2: acquisire il file Phi-3 GGUF

Per integrare Phi-3 con LM Studio, scaricare separatamente il file GGUF:

  1. Accedi al collegamento e seleziona File.
  2. Scegli una versione del modello Phi-3; consigliamo la versione più piccola per una maggiore facilità d’uso.
  3. Avvia il download della versione selezionata.
  4. Salvare il file in un luogo facilmente accessibile.

Passaggio 3: aggiungere il modello Phi-3 in LM Studio

Ora carica il modello Phi-3 scaricato:

  1. Avvia LM Studio e clicca su I miei modelli.
  2. Cerca la “Cartella modelli locali” e aprila tramite Mostra in Esplora file.
  3. Creare una cartella denominata Microsoft nella directory.
  4. All’interno della cartella Microsoft, creare un’altra cartella denominata Phi-3.
  5. Trasferire il file GGUF scaricato nella cartella Phi-3.
  6. Dopo aver spostato il file, questo dovrebbe essere visualizzato in LM Studio (potrebbe essere necessario riavviare l’applicazione).
  7. Per interagire, seleziona AI Chat dal menu.
  8. Selezionare Seleziona un modello da caricare e scegliere il modello Phi-3.
  9. Attendi che LM Studio carichi il modello.
  10. Per prestazioni ottimali, si consiglia di configurare il modello in modo che funzioni tramite GPU; regolare le impostazioni in Configurazione avanzata > Impostazioni hardware.
  11. Cambia ‘Accelerazione GPU’ su Max.
  12. Fare clic su Ricarica modello per applicare la configurazione.
  13. Una volta caricato completamente il modello, è possibile iniziare le interazioni in LM Studio.

Fase 4: Avvia la conversazione con Phi-3 LLM di Microsoft

Ora sei pronto per interagire con il modello! Inserisci qualsiasi prompt e, anche senza una connessione Internet, divertiti a chattare localmente con Phi-3 di Microsoft sul tuo computer Windows.

Riepilogo

Questo tutorial ti ha fornito i passaggi necessari per eseguire Phi-3 di Microsoft sul tuo PC Windows, sia che tu scelga l’interfaccia a riga di comando con Ollama o l’interfaccia grafica di LM Studio. Entrambi i metodi sbloccano nuove possibilità per la tua interazione con l’IA.

Conclusione

Con queste informazioni e istruzioni, sei autorizzato a esplorare le capacità di Phi-3 di Microsoft in locale. Che tu preferisca i comandi del terminale o un’esperienza più visiva, la scelta è ora tua. Immergiti nell’affascinante mondo dell’IA e goditi le tue interazioni!

FAQ (Domande frequenti)

Cosa fare se Ollama si blocca durante il download di Phi-3?

Se riscontri problemi con Ollama che non scarica Phi-3, reinserisci ollama run phi3. Il download dovrebbe riprendere da dove si era interrotto.