El generador de código AI Starcoder 2 de Hugging Face se ejecutará en la mayoría de las GPU modernas

Qué saber

• Hugging Face ha lanzado StarCoder 2 en colaboración con Service Now y Nvidia.
• El generador de código impulsado por IA viene en tres variantes (con diferentes tamaños de parámetros) entrenadas por Service Now, Hugging Face y Nvidia, las dos primeras de las cuales se ejecutarán en la mayoría de las GPU de consumo modernas.
• Se informa que StarCoder 2 es el generador de código de IA más eficiente, diseñado para desarrolladores que desean crear aplicaciones rápidamente y sin sacrificar la calidad.

Los generadores de código basados ​​en IA están recibiendo mucha atención por parte de los desarrolladores. Aunque la mayoría de estas herramientas están lejos de ser perfectas, como CodeWhisperer y GitHub Copilot de Amazon, la demanda de sus alternativas solo crece día a día. Afortunadamente, Hugging Face, en colaboración con Service Now y Nvidia, está aquí para salvar el día con su última versión de StarCoder, un generador de código fuente abierto que las GPU modernas no tendrían problemas para ejecutar. Aquí encontrará todo lo que necesita saber al respecto.

¿Qué es StarCoder 2?

Starcoder 2, desarrollado por primera vez por la startup de IA Hugging Face, es una familia de grandes modelos de lenguaje para código que vienen en las siguientes tres variantes:

• Modelo StarCoder2-3B (con 3 mil millones de parámetros) entrenado por Service Now.
• Modelo StarCoder2-7B (con 7 mil millones de parámetros) entrenado por Hugging Face.
• Modelo StarCoder2-15B (con 15 mil millones de parámetros) entrenado por Nvidia.

Los tres modelos fueron entrenados en The Stack V2, un nuevo conjunto de datos de código que es siete veces más grande que su primera iteración, con técnicas avanzadas para comprender los lenguajes de programación y discusiones sobre los códigos fuente de los programas.

Sin embargo, sólo las dos primeras variantes podrán ejecutarse en la mayoría de las GPU de consumo modernas. Parte de la razón de esto podría ser el hecho de que ambos recibieron capacitación en 17 lenguajes de programación, mientras que Starcoder2-15B recibió capacitación en más de 600 lenguajes de programación (por Nvidia).

Sin embargo, incluso el modelo más pequeño (entrenado por Service Now) es tan bueno, si no mejor, que el mejor de la iteración anterior.

¿Cómo se compara StarCoder 2 con otros generadores de códigos de IA?

Como la mayoría de los generadores de códigos de IA, StarCoder 2 proporcionará sugerencias para completar líneas de código, resumir fragmentos de código y extraerlos cuando se le solicite. Según se informa, también es mucho más eficiente y también obtiene una ventaja sobre otros generadores de código en términos de rendimiento.

Además, se dice que StarCoder 2 no tardará más de unas pocas horas en implementarse localmente, aprender el código fuente del desarrollador y poder usarse para crear aplicaciones y chatbots. También se considera un generador de códigos de IA mucho más ético que otros, principalmente porque fue entrenado con datos con licencia de Software Heritage.

Una advertencia importante a tener en cuenta es que la licencia de StarCoder 2, BigCode Open RAIL-M 1.0, puede traer consigo su propio conjunto de desafíos para los desarrolladores, ya que no permitirá el uso completamente abierto del generador de código con tanta libertad como quisieran. Se han implementado ciertas restricciones para garantizar el cumplimiento de las leyes y regulaciones, como la Ley de IA de la UE.