Découvrez Meta’s Shepherd AI, le guide AI qui corrige les LLM

Il est temps de prendre du recul par rapport à la couverture des percées de Microsoft en matière d’IA , pour jeter un œil à l’un des modèles sur lesquels son récent partenaire, Meta, a travaillé.

La société Facebook a également financé elle-même des recherches sur l’IA, et le résultat est un modèle d’IA capable de corriger les grands modèles de langage (LLM) et de les guider pour fournir les bonnes réponses.

L’équipe à l’origine du projet a appelé de manière suggestive le modèle Shepherd AI , et le modèle est conçu pour corriger les erreurs que les LLM peuvent commettre lorsqu’on leur demande d’accomplir certaines tâches.

Dans ce travail, nous introduisons Shepherd, un modèle de langage spécifiquement adapté pour critiquer les réponses du modèle et suggérer des améliorations, s’étendant au-delà des capacités d’un modèle non adapté pour identifier diverses erreurs et fournir des suggestions pour y remédier. Au cœur de notre approche se trouve un ensemble de données de rétroaction de haute qualité, que nous organisons à partir des commentaires de la communauté et des annotations humaines.

Recherche Meta AI, FAIR

Comme vous le savez peut-être, Meta a publié ses LLM, Llama 2, en partenariat avec Microsoft, il y a plusieurs semaines. Llama 2 est un modèle open source stupéfiant de 70 milliards de paramètres que Microsoft et Meta prévoient de commercialiser auprès des utilisateurs et des organisations pour créer leurs outils d’IA internes.

Mais l’IA n’est pas encore parfaite. Et beaucoup de ses solutions ne semblent pas toujours correctes. Shepherd est là pour résoudre ces problèmes en les corrigeant et en suggérant des solutions, selon Meta AI Research.

Shepherd AI est un enseignant d’IA informel et naturel

Nous savons tous que Bing Chat, par exemple, a tendance à suivre certains schémas : l’outil peut être créatif , mais il peut aussi limiter sa créativité . En matière professionnelle, Bing AI peut également adopter une attitude sérieuse.

Cependant, il semble que Shepherd AI de Meta fonctionne comme un enseignant d’IA informel pour les autres LLM. Le modèle, qui est considérablement plus petit aux paramètres 7B, a un ton de voix naturel et informel lorsqu’il corrige et suggère des solutions.

Tout cela a été possible grâce à une variété de sources de formation, notamment :

• Commentaires de la communauté : Shepherd AI a été formé sur le contenu organisé des forums en ligne (forums Reddit, en particulier), ce qui permet ses contributions naturelles.
• Entrée annotée par l’homme : Shepherd AI a également été formé sur un ensemble de bases de données publiques sélectionnées, ce qui permet ses corrections organisées et factuelles.

Shepherd AI est parfaitement capable de fournir une meilleure correction factuelle que ChatGPT, par exemple, malgré son infrastructure relativement petite. FAIR et Meta AI Research ont constaté que l’outil d’IA fournit de meilleurs résultats que la plupart de ses alternatives concurrentes, avec un taux de réussite moyen de 53 à 87 % . De plus, Shepherd AI peut également porter des jugements précis sur tout type de contenu généré par LLM.

Pour l’instant, Shepherd est un nouveau modèle d’IA, mais au fur et à mesure que la recherche y sera approfondie, le modèle sera très probablement publié à l’avenir, en tant que projet open source.

Êtes-vous excité à ce sujet? L’utiliseriez-vous pour corriger votre propre modèle d’IA ? Qu’est-ce que tu en penses?