La machine virtuelle ND H100 v5 de Microsoft est généralement disponible, Azure OpenAI Service est dans plus de régions

En mars, Microsoft a annoncé qu’il collaborait avec NVIDIA pour créer la série Azure ND H100 v5 Virtual Machine (VM) . Aujourd’hui, Microsoft a annoncé que ces nouveaux supercalculateurs sont désormais généralement disponibles, offrant aux entreprises un accès à des performances plus rapides pour les tâches d’IA génératives,

Les nouvelles machines virtuelles utilisent les GPU NVIDIA Tensor Core H100 de NVIDIA et la mise en réseau NVIDIA Quantum-2 InfiniBand. Pour le moment, ils sont disponibles pour l’accès dans les régions Azure de l’est et de l’ouest des États-Unis. Voici ce à quoi les entreprises peuvent s’attendre lorsqu’elles s’inscrivent pour accéder à ces nouvelles machines virtuelles rapides basées sur l’IA.

• GPU de supercalcul : équipées de huit GPU NVIDIA Tensor Core H100, ces machines virtuelles promettent des performances de modèle d’IA nettement plus rapides que les générations précédentes, offrant aux entreprises une puissance de calcul inégalée.
• Unité de traitement informatique (CPU) de nouvelle génération : comprenant la criticité des performances du processeur pour la formation et l’inférence de l’IA, nous avons choisi les processeurs Intel Xeon Scalable de 4e génération comme base de ces machines virtuelles, garantissant une vitesse de traitement optimale
• Mise en réseau à faible latence : L’inclusion de NVIDIA Quantum-2 CX7 InfiniBand avec une bande passante inter-nœuds de 400 Go/s garantit des performances homogènes sur tous les GPU, correspondant aux capacités des supercalculateurs les plus performants à l’échelle mondiale.
• Optimisation des performances entre l’hôte et le GPU : avec PCIe Gen5 fournissant une bande passante de 64 Go/s par GPU, Azure obtient des avantages de performances significatifs entre le CPU et le GPU.
• Mémoire à grande échelle et bande passante mémoire : la mémoire DDR5 est au cœur de ces machines virtuelles, offrant des vitesses de transfert de données et une efficacité supérieures, ce qui les rend idéales pour les charges de travail avec des ensembles de données plus volumineux.

Microsoft a ajouté qu’il travaillait à ajouter des centaines de milliers de ces nouveaux GPU pour ses machines virtuelles au cours de l’année prochaine.

En plus des nouvelles machines virtuelles génératives AI Azure, Microsoft a également annoncé une extension de son service Azure OpenAI. Il est désormais disponible dans les régions Canada Est, Est des États-Unis 2, Japon Est et Royaume-Uni Sud.

Le service, comme nous l’avons déjà signalé , aidera les entreprises à créer leurs propres applications alimentées par l’IA. Depuis sa première annonce en mars, Microsoft a déclaré avoir reçu d’excellentes réponses de la part des entreprises :

Nous servons maintenant fièrement plus de 11 000 clients, attirant en moyenne 100 nouveaux clients par jour ce trimestre. Cette croissance remarquable témoigne de la valeur et de l’évolutivité que notre service apporte aux entreprises désireuses d’exploiter le potentiel de l’IA pour leurs besoins uniques.

Microsoft a également ajouté que la version la plus puissante de la plate-forme ChatGPT AI, GPT-4, sera également disponible pour les nouvelles régions Azure OpenAI Service.