O gerador de código AI Starcoder 2 da Hugging Face será executado nas GPUs mais modernas

O que saber

• Hugging Face lançou StarCoder 2 em colaboração com Service Now e Nvidia.
• O gerador de código alimentado por IA vem em três variantes (com diferentes tamanhos de parâmetros) treinadas por Service Now, Hugging Face e Nvidia, as duas primeiras serão executadas nas GPUs de consumo mais modernas.
• StarCoder 2 é considerado o gerador de código de IA mais eficiente, projetado para desenvolvedores que desejam construir aplicativos rapidamente e sem sacrificar a qualidade.

Os geradores de código baseados em IA estão recebendo muita atenção dos desenvolvedores. Embora a maioria dessas ferramentas esteja longe de ser perfeita, como o CodeWhisperer da Amazon e o GitHub Copilot, a demanda por suas alternativas só cresce a cada dia. Felizmente, Hugging Face – em colaboração com Service Now e Nvidia – está aqui para salvar o dia com sua mais recente iteração do StarCoder, um gerador de código-fonte aberto que as GPUs modernas não teriam problemas para executar. Aqui está tudo o que você precisa saber sobre isso.

O que é StarCoder 2

Starcoder 2, desenvolvido primeiro pela startup de IA Hugging Face, é uma família de grandes modelos de linguagem para código que vem nas três variantes a seguir:

• Modelo StarCoder2-3B (com 3 bilhões de parâmetros) treinado pela Service Now.
• Modelo StarCoder2-7B (com 7 bilhões de parâmetros) treinado por Hugging Face.
• Modelo StarCoder2-15B (com 15 bilhões de parâmetros) treinado pela Nvidia.

Todos os três modelos foram treinados no The Stack V2, um novo conjunto de dados de código sete vezes maior que sua primeira iteração, com técnicas avançadas para entender linguagens de programação e discussões sobre códigos-fonte de programas.

No entanto, apenas as duas primeiras variantes poderão rodar na maioria das GPUs de consumo modernas. Parte da razão para isso pode ser o fato de ambos terem sido treinados em 17 linguagens de programação, enquanto o Starcoder2-15B foi treinado em mais de 600 linguagens de programação (pela Nvidia).

No entanto, mesmo o menor modelo (treinado pela Service Now) é tão bom, se não melhor, que o melhor da iteração anterior.

Como o StarCoder 2 se compara a outros geradores de código de IA

Como a maioria dos geradores de código de IA, o StarCoder 2 fornecerá sugestões para completar linhas de código, resumir pedaços de código e extraí-los quando solicitado. Alegadamente, ele também é muito mais eficiente e ganha vantagem sobre outros geradores de código em termos de desempenho.

Além disso, diz-se que o StarCoder 2 não leva mais do que algumas horas para ser implantado localmente, aprender o código-fonte do desenvolvedor e poder ser usado para criar aplicativos e chatbots. Também é considerado um gerador de código de IA muito mais ético do que alguns outros, principalmente porque foi treinado com dados licenciados pela Software Heritage.

Uma advertência importante a ser observada é que a licença do StarCoder 2, BigCode Open RAIL-M 1.0, pode trazer consigo seu próprio conjunto de desafios para os desenvolvedores, pois não permitirá o uso completamente aberto do gerador de código tão livremente quanto eles desejam. Certas restrições foram implementadas para garantir a conformidade com leis e regulamentos, como a Lei de IA da UE.