Guida all’esecuzione di Microsoft Phi-3 AI in locale su Windows

Note chiave

• Phi-3 di Microsoft è un modello di intelligenza artificiale compatto ma robusto che può essere eseguito localmente su macchine Windows.
• Utilizza Ollama con il comando ollama run phi3 in un terminale per interagire con l’IA.
• Per un’interazione visiva, puoi utilizzare LM Studio e integrare il modello Phi-3 da un download separato.

Sbloccare la potenza dell’intelligenza artificiale: eseguire Phi-3 di Microsoft sul tuo PC Windows

Il modello di intelligenza artificiale Phi-3 di Microsoft ha suscitato grande interesse nella comunità tecnologica, rendendo essenziale per appassionati e sviluppatori saperlo eseguire in locale. Questa guida illustra passo passo l’installazione e l’utilizzo di Phi-3 tramite Ollama e LM Studio, garantendo l’accesso alle sue funzionalità senza bisogno di una connessione online.

Informazioni essenziali prima di iniziare

• Phi-3 di Microsoft è un modello di intelligenza artificiale piccolo ma potente che può essere eseguito localmente su Windows.
• Installa Ollama, quindi esegui il comando ollama run phi3 su un’app terminale (come CMD).Una volta scaricato Phi-3, potrai chattare con l’IA direttamente dal terminale.
• È anche possibile utilizzare un software come LM Studio per creare un’interfaccia grafica per chattare con Phi-3 in locale. Scaricare il file GUFF di Phi-3 separatamente e salvarlo nella directory di LM Studio. Quindi caricare il modello in LM Studio e iniziare a chattare con Phi-3 su Windows in locale.

Esecuzione di Phi-3 di Microsoft su Windows con Ollama

Ollama fornisce un framework eccellente per l’esecuzione locale di modelli linguistici di grandi dimensioni. Ecco come utilizzarlo per far funzionare Phi-3 di Microsoft sul tuo computer Windows.

Passaggio 1: acquisire e configurare Ollama

Per iniziare, scarica e installa Ollama:

• Ollama per Windows | Link per il download

1. Fare clic su Scarica per Windows (Anteprima) utilizzando il collegamento sopra.
2. Dopo il download, eseguire il file di installazione.
3. Seguire il processo di installazione cliccando su Installa.

Passaggio 2: eseguire il comando Phi-3 per recuperare il modello

Per scaricare il modello Phi-3, seguire questi passaggi:

1. Visita Ollama.com e vai alla sezione Modelli.
2. Cerca e individua phi3.
3. Copia il comando disponibile per il download di phi3.
4. Aprire il Prompt dei comandi (o un terminale a scelta) dal menu Start.
5. Incollare il comando copiato all’interno dell’applicazione terminale.
6. Premere Invio e attendere il download del modello Phi-3.
7. Una volta visualizzato il messaggio “Invia un messaggio”, il modello è pronto per l’interazione.

Fase 3: avviare conversazioni con Phi-3 LLM di Microsoft

Interagisci direttamente con il modello nel tuo terminale. Digita il prompt e premi Invio. Ecco alcune funzionalità che potresti esplorare:

Test di resistenza alla censura:

Valutazione della comprensione di argomenti complessi:

Rilevazione delle allucinazioni:

Valutare la creatività:

Esecuzione di Phi-3 di Microsoft su Windows tramite LM Studio

Se preferisci un’interfaccia grafica più semplice per interagire con Phi-3, valuta l’utilizzo di LM Studio. Ecco come configurarlo:

Passaggio 1: scarica e installa LM Studio

• LM Studio | Link per il download

1. Utilizzare il collegamento fornito per scaricare LM Studio per Windows.
2. Aprire il programma di installazione e attendere che completi l’installazione di LM Studio.

Passaggio 2: acquisire il file Phi-3 GGUF

Per integrare Phi-3 con LM Studio, scaricare separatamente il file GGUF:

• File Phi-3-Mini GGUF | Link per il download

1. Accedi al collegamento e seleziona File.
2. Scegli una versione del modello Phi-3; consigliamo la versione più piccola per una maggiore facilità d’uso.
3. Avvia il download della versione selezionata.
4. Salvare il file in un luogo facilmente accessibile.

Passaggio 3: aggiungere il modello Phi-3 in LM Studio

Ora carica il modello Phi-3 scaricato:

1. Avvia LM Studio e clicca su I miei modelli.
2. Cerca la “Cartella modelli locali” e aprila tramite Mostra in Esplora file.
3. Creare una cartella denominata Microsoft nella directory.
4. All’interno della cartella Microsoft, creare un’altra cartella denominata Phi-3.
5. Trasferire il file GGUF scaricato nella cartella Phi-3.
6. Dopo aver spostato il file, questo dovrebbe essere visualizzato in LM Studio (potrebbe essere necessario riavviare l’applicazione).
7. Per interagire, seleziona AI Chat dal menu.
8. Selezionare Seleziona un modello da caricare e scegliere il modello Phi-3.
9. Attendi che LM Studio carichi il modello.
10. Per prestazioni ottimali, si consiglia di configurare il modello in modo che funzioni tramite GPU; regolare le impostazioni in Configurazione avanzata > Impostazioni hardware.
11. Cambia ‘Accelerazione GPU’ su Max.
12. Fare clic su Ricarica modello per applicare la configurazione.
13. Una volta caricato completamente il modello, è possibile iniziare le interazioni in LM Studio.

Fase 4: Avvia la conversazione con Phi-3 LLM di Microsoft

Ora sei pronto a interagire con il modello! Inserisci un prompt qualsiasi e, anche senza connessione internet, chatta in locale con Phi-3 di Microsoft sul tuo computer Windows.

Riepilogo

Questo tutorial ti ha fornito i passaggi necessari per eseguire Phi-3 di Microsoft sul tuo PC Windows, sia che tu scelga l’interfaccia a riga di comando di Ollama o l’interfaccia grafica di LM Studio. Entrambi i metodi aprono nuove possibilità per la tua interazione con l’intelligenza artificiale.

Conclusione

Grazie a queste informazioni e istruzioni, potrai esplorare le potenzialità di Phi-3 di Microsoft in locale. Che tu preferisca i comandi da terminale o un’esperienza più visiva, la scelta è ora tua. Immergiti nell’affascinante mondo dell’intelligenza artificiale e goditi le tue interazioni!

FAQ (Domande frequenti)