La macchina virtuale ND H100 v5 di Microsoft è generalmente disponibile, il servizio Azure OpenAI è disponibile in più aree

A marzo, Microsoft ha annunciato che stava collaborando con NVIDIA per creare la serie Azure ND H100 v5 Virtual Machine (VM) . Oggi, Microsoft ha annunciato che questi nuovi supercomputer sono ora generalmente disponibili, offrendo alle aziende l’accesso a prestazioni più veloci per le attività di intelligenza artificiale generativa,

Le nuove VM utilizzano le GPU NVIDIA Tensor Core H100 di NVIDIA e il networking NVIDIA Quantum-2 InfiniBand. Al momento, sono disponibili per l’accesso nelle aree di Azure degli Stati Uniti orientali e occidentali. Ecco cosa possono aspettarsi le aziende quando si registrano per accedere a queste nuove e veloci VM basate su IA.

• GPU di supercomputing: dotate di otto GPU NVIDIA Tensor Core H100, queste VM promettono prestazioni del modello AI significativamente più veloci rispetto alle generazioni precedenti, fornendo alle aziende una potenza di calcolo senza pari.
• Unità di elaborazione del computer (CPU) di nuova generazione: comprendendo la criticità delle prestazioni della CPU per l’addestramento e l’inferenza dell’IA, abbiamo scelto i processori scalabili Intel Xeon di quarta generazione come base di queste VM, garantendo una velocità di elaborazione ottimale
• Rete a bassa latenza: l’inclusione di NVIDIA Quantum-2 CX7 InfiniBand con larghezza di banda di nodo incrociato di 400 GB/s garantisce prestazioni senza soluzione di continuità tra le GPU, eguagliando le capacità dei supercomputer più performanti a livello globale.
• Prestazioni ottimizzate da host a GPU: con PCIe Gen5 che fornisce una larghezza di banda di 64 GB/s per GPU, Azure ottiene significativi vantaggi in termini di prestazioni tra CPU e GPU.
• Memoria su larga scala e larghezza di banda della memoria: la memoria DDR5 è al centro di queste macchine virtuali, offrendo maggiore velocità ed efficienza di trasferimento dei dati, rendendole ideali per carichi di lavoro con set di dati più grandi.

Microsoft ha aggiunto che sta lavorando per aggiungere centinaia di migliaia di queste nuove GPU per le sue macchine virtuali nel corso del prossimo anno.

Oltre alle nuove macchine virtuali generative AI Azure, Microsoft ha anche annunciato un’espansione del suo servizio Azure OpenAI. Ora è disponibile nelle regioni Canada orientale, Stati Uniti orientali 2, Giappone orientale e Regno Unito meridionale.

Il servizio, come abbiamo riportato in precedenza , aiuterà le aziende a creare le proprie app basate sull’intelligenza artificiale. Da quando è stato annunciato per la prima volta a marzo, Microsoft ha affermato di aver ricevuto ottime risposte dalle aziende:

Ora serviamo con orgoglio oltre 11.000 clienti, attirando una media di 100 nuovi clienti ogni giorno in questo trimestre. Questa notevole crescita è una testimonianza del valore e della scalabilità che il nostro servizio offre alle aziende desiderose di sfruttare il potenziale dell’IA per le loro esigenze specifiche.

Microsoft ha inoltre aggiunto che la versione più potente della piattaforma ChatGPT AI, GPT-4, sarà disponibile anche per le nuove regioni del servizio Azure OpenAI.