Die ND H100 v5 VM von Microsoft ist allgemein verfügbar, der Azure OpenAI Service ist in mehr Regionen verfügbar

Im März gab Microsoft bekannt, dass es mit NVIDIA zusammenarbeitet, um die Azure ND H100 v5 Virtual Machine (VM)-Serie zu entwickeln . Heute gab Microsoft bekannt, dass diese neuen Supercomputer jetzt allgemein verfügbar sind und Unternehmen Zugang zu schnellerer Leistung für generative KI-Aufgaben bieten.

Die neuen VMs nutzen NVIDIAs NVIDIA Tensor Core H100-GPUs und NVIDIA Quantum-2 InfiniBand-Netzwerke. Derzeit sind sie sowohl in den Azure-Regionen „Ost“ als auch „West der USA“ für den Zugriff verfügbar. Folgendes können Unternehmen erwarten, wenn sie sich für den Zugriff auf diese neuen und schnellen KI-basierten VMs anmelden.

• Supercomputing-GPUs: Ausgestattet mit acht NVIDIA Tensor Core H100-GPUs versprechen diese VMs eine deutlich schnellere KI-Modellleistung als frühere Generationen und ermöglichen Unternehmen eine unübertroffene Rechenleistung.
• Computerprozessoreinheit (CPU) der nächsten Generation: Da wir uns der Bedeutung der CPU-Leistung für KI-Training und -Inferenz bewusst sind, haben wir die skalierbaren Intel Xeon Prozessoren der 4. Generation als Grundlage dieser VMs ausgewählt, um eine optimale Verarbeitungsgeschwindigkeit zu gewährleisten
• Netzwerk mit geringer Latenz: Die Integration von NVIDIA Quantum-2 CX7 InfiniBand mit einer knotenübergreifenden Bandbreite von 400 GB/s gewährleistet eine nahtlose Leistung aller GPUs und entspricht den Fähigkeiten der leistungsstärksten Supercomputer weltweit.
• Optimierte Host-zu-GPU-Leistung: Da PCIe Gen5 eine Bandbreite von 64 GB/s pro GPU bereitstellt, erzielt Azure erhebliche Leistungsvorteile zwischen CPU und GPU.
• Großer Speicher und große Speicherbandbreite: DDR5-Speicher ist das Herzstück dieser VMs und sorgt für höhere Datenübertragungsgeschwindigkeiten und Effizienz, was sie ideal für Workloads mit größeren Datensätzen macht.

Microsoft fügte hinzu, dass es daran arbeite, im Laufe des nächsten Jahres Hunderttausende dieser neuen GPUs für seine VMs hinzuzufügen.

Neben den neuen generativen AI Azure Virtual Machines hat Microsoft auch eine Erweiterung seines Azure OpenAI Service angekündigt. Es ist jetzt in den Regionen Kanada Ost, Ost-USA 2, Japan Ost und Großbritannien Süd verfügbar.

Der Dienst wird, wie wir bereits berichtet haben , Unternehmen dabei helfen, ihre eigenen KI-gestützten Apps zu erstellen. Seit der ersten Ankündigung im März hat Microsoft nach eigenen Angaben großartige Reaktionen von Unternehmen erhalten:

Mittlerweile betreuen wir stolz über 11.000 Kunden und gewinnen in diesem Quartal durchschnittlich 100 neue Kunden pro Tag. Dieses bemerkenswerte Wachstum ist ein Beweis für den Wert und die Skalierbarkeit, die unser Service für Unternehmen bietet, die das Potenzial von KI für ihre individuellen Bedürfnisse nutzen möchten.

Microsoft fügte außerdem hinzu, dass die leistungsstärkste Version der ChatGPT-KI-Plattform, GPT-4, auch für die neuen Azure OpenAI Service-Regionen verfügbar sein wird.