Le générateur de code AI Starcoder 2 de Hugging Face fonctionnera sur la plupart des GPU modernes

Ce qu’il faut savoir

• Hugging Face a publié StarCoder 2 en collaboration avec Service Now et Nvidia.
• Le générateur de code alimenté par l’IA est disponible en trois variantes (avec des tailles de paramètres différentes) formées par Service Now, Hugging Face et Nvidia, dont les deux premières fonctionneront sur la plupart des GPU grand public modernes.
• StarCoder 2 est considéré comme le générateur de code IA le plus efficace, conçu pour les développeurs qui souhaitent créer des applications rapidement et sans sacrifier la qualité.

Les générateurs de code basés sur l’IA reçoivent beaucoup d’attention de la part des développeurs. Même si la plupart de ces outils sont loin d’être parfaits, notamment CodeWhisperer et GitHub Copilot d’Amazon, la demande pour leurs alternatives ne fait qu’augmenter de jour en jour. Heureusement, Hugging Face – en collaboration avec Service Now et Nvidia – est là pour sauver la situation avec sa dernière itération de StarCoder, un générateur de code open source que les GPU modernes n’auraient aucun problème à exécuter. Voici tout ce que vous devez savoir à ce sujet.

Qu’est-ce que StarCoder 2

Starcoder 2, développé pour la première fois par la startup d’IA Hugging Face, est une famille de grands modèles de langage pour le code qui se déclinent dans les trois variantes suivantes :

• Modèle StarCoder2-3B (avec 3 milliards de paramètres) formé par Service Now.
• Modèle StarCoder2-7B (avec 7 milliards de paramètres) entraîné par Hugging Face.
• Modèle StarCoder2-15B (avec 15 milliards de paramètres) formé par Nvidia.

Les trois modèles ont été formés sur The Stack V2, un nouvel ensemble de données de code sept fois plus volumineux que sa première itération, avec des techniques avancées pour comprendre les langages de programmation et des discussions autour des codes sources des programmes.

Cependant, seules les deux premières variantes pourront fonctionner sur la plupart des GPU grand public modernes. Cela pourrait s’expliquer en partie par le fait qu’ils ont tous deux été formés à 17 langages de programmation, tandis que Starcoder2-15B a été formé à plus de 600 langages de programmation (par Nvidia).

Néanmoins, même le plus petit modèle (entraîné par Service Now) est aussi bon, sinon meilleur, que le meilleur de l’itération précédente.

Comment StarCoder 2 se compare-t-il aux autres générateurs de code AI

Comme la plupart des générateurs de code IA, StarCoder 2 fournira des suggestions pour compléter les lignes de code, résumer des morceaux de code et les extraire lorsque vous y êtes invité. Apparemment, il est également beaucoup plus efficace et gagne également un avantage sur les autres générateurs de code en termes de performances.

De plus, StarCoder 2 ne prendrait pas plus de quelques heures avant d’être déployé localement, d’apprendre le code source du développeur et de pouvoir être utilisé pour créer des applications et des chatbots. Il est également considéré comme un générateur de code d’IA beaucoup plus éthique que certains autres, principalement parce qu’il a été formé sur des données sous licence Software Heritage.

Une mise en garde importante à noter est que la licence de StarCoder 2, BigCode Open RAIL-M 1.0, peut apporter son propre ensemble de défis aux développeurs car elle ne permettra pas une utilisation complètement ouverte du générateur de code aussi librement qu’ils le souhaitent. Certaines restrictions ont été mises en œuvre pour garantir le respect des lois et réglementations, telles que la loi européenne sur l’IA.