Microsoft’s ND H100 v5 VM is algemeen beschikbaar, Azure OpenAI Service is in meer regio’s

In maart kondigde Microsoft aan dat het samenwerkte met NVIDIA om de Azure ND H100 v5 Virtual Machine (VM)-serie te creëren . Microsoft heeft vandaag aangekondigd dat die nieuwe supercomputers nu algemeen beschikbaar zijn, waardoor bedrijven toegang krijgen tot snellere prestaties voor generatieve AI-taken,

De nieuwe VM’s maken gebruik van NVIDIA’s NVIDIA Tensor Core H100 GPU’s en NVIDIA Quantum-2 InfiniBand-netwerken. Op dit moment zijn ze beschikbaar voor toegang in de Azure-regio’s Oost en West Verenigde Staten. Dit is wat bedrijven kunnen verwachten als ze zich aanmelden voor toegang tot deze nieuwe en snelle op AI gebaseerde VM’s.

• Supercomputing GPU’s: Uitgerust met acht NVIDIA Tensor Core H100 GPU’s, beloven deze VM’s aanzienlijk snellere AI-modelprestaties dan eerdere generaties, waardoor bedrijven een ongeëvenaarde rekenkracht krijgen.
• Computerverwerkingseenheid (CPU) van de volgende generatie: Omdat we begrijpen hoe belangrijk CPU-prestaties zijn voor AI-training en gevolgtrekking, hebben we de 4e generatie Intel Xeon schaalbare processors gekozen als basis voor deze VM’s, waardoor een optimale verwerkingssnelheid wordt gegarandeerd
• Netwerken met lage latentie: de opname van NVIDIA Quantum-2 CX7 InfiniBand met 400 GB/s crossnode-bandbreedte zorgt voor naadloze prestaties over de GPU’s, passend bij de mogelijkheden van de best presterende supercomputers wereldwijd.
• Geoptimaliseerde host-naar-GPU-prestaties: met PCIe Gen5 die 64 GB/s bandbreedte per GPU biedt, bereikt Azure aanzienlijke prestatievoordelen tussen CPU en GPU.
• Grootschalig geheugen en geheugenbandbreedte: DDR5-geheugen vormt de kern van deze VM’s en levert grotere gegevensoverdrachtssnelheden en efficiëntie, waardoor ze ideaal zijn voor workloads met grotere datasets.

Microsoft voegde eraan toe dat het eraan werkt om het komende jaar honderdduizenden van deze nieuwe GPU’s voor zijn VM’s toe te voegen.

Naast de nieuwe generatieve AI Azure virtual machines, heeft Microsoft ook een uitbreiding van zijn Azure OpenAI Service aangekondigd. Het is nu beschikbaar in de regio’s Canada East, East United States 2, Japan East en UK South.

De service, zoals we eerder hebben gemeld , zal bedrijven helpen hun eigen AI-aangedreven apps te maken. Sinds het voor het eerst werd aangekondigd in maart, heeft Microsoft gezegd dat het geweldige reacties van bedrijven heeft gezien:

We bedienen nu met trots meer dan 11.000 klanten en trekken dit kwartaal dagelijks gemiddeld 100 nieuwe klanten aan. Deze opmerkelijke groei is een bewijs van de waarde en schaalbaarheid die onze service biedt aan bedrijven die graag het potentieel van AI willen benutten voor hun unieke behoeften.

Microsoft voegde ook toe dat de krachtigste versie van het ChatGPT AI-platform, GPT-4, ook beschikbaar zal zijn voor de nieuwe Azure OpenAI Service-regio’s.