Il generatore di codice AI di Hugging Face Starcoder 2 funzionerà sulla maggior parte delle GPU moderne

Cosa sapere

• Hugging Face ha rilasciato StarCoder 2 in collaborazione con Service Now e Nvidia.
• Il generatore di codice basato sull’intelligenza artificiale è disponibile in tre varianti (con diverse dimensioni dei parametri) addestrate da Service Now, Hugging Face e Nvidia, le prime due delle quali funzioneranno sulla maggior parte delle moderne GPU consumer.
• Si dice che StarCoder 2 sia il generatore di codice AI più efficiente, progettato per gli sviluppatori che desiderano creare applicazioni rapidamente e senza sacrificare la qualità.

I generatori di codice basati sull’intelligenza artificiale stanno ricevendo molta attenzione da parte degli sviluppatori. Anche se la maggior parte di questi strumenti sono tutt’altro che perfetti, tra cui CodeWhisperer e GitHub Copilot di Amazon, la domanda per le loro alternative cresce di giorno in giorno. Fortunatamente, Hugging Face, in collaborazione con Service Now e Nvidia, è qui per salvare la situazione con la sua ultima iterazione di StarCoder, un generatore di codice open source che le moderne GPU non avrebbero problemi a eseguire. Ecco tutto ciò che devi sapere al riguardo.

Cos’è StarCoder2

Starcoder 2, sviluppato inizialmente dalla startup AI Hugging Face, è una famiglia di modelli linguistici di grandi dimensioni per il codice disponibili nelle seguenti tre varianti:

• Modello StarCoder2-3B (con 3 miliardi di parametri) addestrato da Service Now.
• Modello StarCoder2-7B (con 7 miliardi di parametri) addestrato da Hugging Face.
• Modello StarCoder2-15B (con 15 miliardi di parametri) addestrato da Nvidia.

Tutti e tre i modelli sono stati addestrati su The Stack V2, un nuovo set di dati di codice sette volte più grande della sua prima iterazione, con tecniche avanzate per comprendere i linguaggi di programmazione e discussioni sui codici sorgente dei programmi.

Tuttavia, solo le prime due varianti potranno funzionare sulla maggior parte delle moderne GPU consumer. Parte del motivo potrebbe essere il fatto che entrambi sono stati formati su 17 linguaggi di programmazione mentre Starcoder2-15B è stato formato su oltre 600 linguaggi di programmazione (da Nvidia).

Tuttavia, anche il modello più piccolo (addestrato da Service Now) è altrettanto buono, se non migliore, del migliore dell’iterazione precedente.

Come si confronta StarCoder 2 con altri generatori di codici AI

Come la maggior parte dei generatori di codice AI, StarCoder 2 fornirà suggerimenti per completare righe di codice, riassumere frammenti di codice e visualizzarli quando richiesto. Secondo quanto riferito, è anche molto più efficiente e guadagna un vantaggio rispetto ad altri generatori di codice anche in termini di prestazioni.

Inoltre, si dice che StarCoder 2 non richieda più di qualche ora prima di essere distribuito localmente, apprendere il codice sorgente dello sviluppatore e poter essere utilizzato per creare app e chatbot. È anche considerato un generatore di codici AI molto più etico rispetto ad altri, soprattutto perché è stato addestrato su dati concessi in licenza da Software Heritage.

Un avvertimento importante da notare è che la licenza di StarCoder 2, BigCode Open RAIL-M 1.0, potrebbe portare con sé una serie di sfide per gli sviluppatori poiché non consentirà un utilizzo completamente aperto del generatore di codice con la libertà che desiderano. Sono state implementate alcune restrizioni per garantire il rispetto di leggi e regolamenti, come la legge UE sull’intelligenza artificiale.