Exécuter Llama 3 en local : un guide par Meta AI

Étape 1 : Installez LM Studio comme framework

Tout d’abord, vous aurez besoin d’un framework pour faciliter l’exécution de Llama 3. Si vous avez déjà installé LM Studio, n’hésitez pas à passer à l’étape suivante. Pour ceux qui débutent, voici comment l’installer :

• LM Studio | Télécharger ici

1. Cliquez sur le lien ci-dessus et sélectionnez l’option de téléchargement pour LM Studio sur Windows.
2. Une fois téléchargé, exécutez le programme d’installation et suivez les instructions à l’écran pour terminer l’installation.

Étape 2 : Téléchargez Meta’s Llama 3 sur votre PC

Avec LM Studio prêt, il est temps de télécharger Llama 3. Voici les méthodes pour y parvenir :

1. Visitez Llama. Meta.com et cliquez sur Télécharger les modèles.
2. Remplissez les détails requis et soumettez votre demande de téléchargement.

Si cette méthode échoue, utilisez LM Studio pour rechercher et télécharger Llama 3 :

1. Recherchez « Meta Llama » dans la barre de recherche de LM Studio.
2. Choisissez parmi les différentes versions du LLM quantifié affichées.
3. Sur le côté droit, choisissez la version souhaitée et cliquez sur Télécharger.
4. Attendez que le téléchargement soit terminé.
5. Accédez à Mes modèles sur le panneau de gauche pour vérifier si votre modèle a été téléchargé avec succès.

Étape 3 : chargez le modèle téléchargé dans LM Studio

1. Après le téléchargement, cliquez sur AI chat dans le menu de gauche.
2. Sélectionner Sélectionnez un modèle à charger parmi les options présentées.
3. Choisissez le modèle Meta Llama 3 parmi vos téléchargements.
4. Attendez patiemment que le modèle soit chargé.
5. Pour optimiser les performances, vous pouvez décharger le modèle sur votre GPU. Cliquez sur Configuration avancée dans le menu « Paramètres ».
6. Sélectionnez Max pour utiliser la pleine capacité de déchargement du GPU.
7. Enfin, cliquez sur Recharger le modèle pour appliquer la configuration.

Étape 4 : Exécutez Llama 3 et participez aux tests

Une fois chargé, vous pouvez commencer à interagir avec Llama 3 localement. Notez que la connexion Internet n’est pas requise pour ce processus. Interagissez avec le modèle via diverses invites pour explorer ses capacités, telles que :

Tester la résistance à la censure

Comprendre des sujets complexes

Évaluation des réponses aux hallucinations

Exploration des résultats créatifs

Le modèle obtient généralement d’excellentes performances dans toutes les catégories testées, démontrant ainsi sa polyvalence.

Puis-je exécuter Llama 3 sans connexion Internet ?

Quelle est la configuration système requise pour Llama 3 ?