Der AI Code Generator Starcoder 2 von Hugging Face läuft auf den meisten modernen GPUs

Was Sie wissen sollten

• Hugging Face hat StarCoder 2 in Zusammenarbeit mit Service Now und Nvidia veröffentlicht.
• Der KI-gestützte Codegenerator ist in drei Varianten (mit unterschiedlichen Parametergrößen) erhältlich, die von Service Now, Hugging Face und Nvidia trainiert wurden. Die ersten beiden davon laufen auf den meisten modernen Consumer-GPUs.
• StarCoder 2 gilt als der effizienteste KI-Codegenerator und wurde für Entwickler entwickelt, die Anwendungen schnell und ohne Qualitätseinbußen erstellen möchten.

KI-basierte Codegeneratoren erhalten große Aufmerksamkeit von Entwicklern. Auch wenn die meisten dieser Tools alles andere als perfekt sind, darunter CodeWhisperer von Amazon und GitHub Copilot, wächst die Nachfrage nach deren Alternativen täglich. Glücklicherweise ist Hugging Face – in Zusammenarbeit mit Service Now und Nvidia – hier, um den Tag mit seiner neuesten Version von StarCoder zu retten, einem Open-Source-Codegenerator, den moderne GPUs problemlos ausführen könnten. Hier finden Sie alles, was Sie darüber wissen müssen.

Was ist StarCoder 2?

Starcoder 2 wurde zuerst vom KI-Startup Hugging Face entwickelt und ist eine Familie großer Sprachmodelle für Code, die in den folgenden drei Varianten erhältlich sind:

• StarCoder2-3B-Modell (mit 3 Milliarden Parametern), trainiert von Service Now.
• StarCoder2-7B-Modell (mit 7 Milliarden Parametern), trainiert von Hugging Face.
• Von Nvidia trainiertes StarCoder2-15B-Modell (mit 15 Milliarden Parametern).

Alle drei Modelle wurden auf The Stack V2 trainiert, einem neuen Code-Datensatz, der siebenmal größer ist als seine erste Iteration, mit fortschrittlichen Techniken zum Verständnis von Programmiersprachen und Diskussionen rund um Programmquellcodes.

Allerdings werden nur die ersten beiden Varianten auf den meisten modernen Consumer-GPUs lauffähig sein. Ein Grund dafür könnte die Tatsache sein, dass beide in 17 Programmiersprachen geschult wurden, während Starcoder2-15B in über 600 Programmiersprachen (von Nvidia) geschult wurde.

Dennoch ist selbst das kleinste Modell (von Service Now trainiert) genauso gut, wenn nicht sogar besser als das beste der vorherigen Iteration.

Wie schneidet StarCoder 2 im Vergleich zu anderen AI-Codegeneratoren ab?

Wie die meisten KI-Codegeneratoren bietet StarCoder 2 Vorschläge zum Vervollständigen von Codezeilen, zum Zusammenfassen von Codebits und zum Aufrufen dieser, wenn Sie dazu aufgefordert werden. Berichten zufolge ist es auch viel effizienter und hat auch in puncto Leistung einen Vorsprung gegenüber anderen Codegeneratoren.

Darüber hinaus soll StarCoder 2 nur wenige Stunden benötigen, bis es lokal bereitgestellt wird, den Quellcode des Entwicklers erlernt und zum Erstellen von Apps und Chatbots verwendet werden kann. Er gilt auch als weitaus ethischerer KI-Codegenerator als einige andere, vor allem weil er auf Daten trainiert wurde, die von Software Heritage lizenziert wurden.

Ein wichtiger Vorbehalt ist, dass die Lizenz von StarCoder 2, der BigCode Open RAIL-M 1.0, für Entwickler möglicherweise eine Reihe eigener Herausforderungen mit sich bringt, da sie die völlig offene Nutzung des Codegenerators nicht so frei erlaubt, wie sie möchten. Um die Einhaltung von Gesetzen und Vorschriften, wie beispielsweise dem EU-KI-Gesetz, sicherzustellen, wurden bestimmte Einschränkungen eingeführt.