Maszyna wirtualna ND H100 v5 firmy Microsoft jest ogólnie dostępna, usługa Azure OpenAI jest dostępna w większej liczbie regionów

W marcu Microsoft ogłosił, że współpracuje z firmą NVIDIA w celu stworzenia serii Azure ND H100 v5 Virtual Machine (VM) . Dzisiaj Microsoft ogłosił, że te nowe superkomputery są już ogólnie dostępne, oferując firmom dostęp do większej wydajności w przypadku generatywnych zadań sztucznej inteligencji,

Nowe maszyny wirtualne wykorzystują procesory graficzne NVIDIA Tensor Core H100 i sieć NVIDIA Quantum-2 InfiniBand. W tej chwili są one dostępne do uzyskania dostępu zarówno we wschodnich, jak i zachodnich regionach platformy Azure w Stanach Zjednoczonych. Oto, czego firmy mogą się spodziewać po zarejestrowaniu się w celu uzyskania dostępu do tych nowych i szybkich maszyn wirtualnych opartych na sztucznej inteligencji.

• Superkomputerowe procesory graficzne: wyposażone w osiem procesorów graficznych NVIDIA Tensor Core H100, te maszyny wirtualne obiecują znacznie wyższą wydajność modelu AI niż poprzednie generacje, dając firmom niezrównaną moc obliczeniową.
• Jednostka przetwarzająca komputer (CPU) nowej generacji: rozumiejąc znaczenie wydajności procesora dla uczenia i wnioskowania AI, wybraliśmy procesory Intel Xeon Scalable czwartej generacji jako podstawę tych maszyn wirtualnych, zapewniając optymalną szybkość przetwarzania
• Sieć o niskich opóźnieniach: włączenie NVIDIA Quantum-2 CX7 InfiniBand z przepustowością międzywęzłową 400 GB/s zapewnia płynną wydajność wszystkich procesorów graficznych, dorównując możliwościom najwydajniejszych superkomputerów na całym świecie.
• Zoptymalizowana wydajność hosta do GPU: dzięki PCIe Gen5 zapewniającej przepustowość 64 GB/s na GPU, platforma Azure osiąga znaczne korzyści w zakresie wydajności między procesorem a GPU.
• Pamięć o dużej skali i przepustowość pamięci: pamięć DDR5 stanowi rdzeń tych maszyn wirtualnych, zapewniając większą szybkość i wydajność przesyłania danych, dzięki czemu idealnie nadają się do obciążeń z większymi zestawami danych.

Microsoft dodał, że pracuje nad dodaniem setek tysięcy nowych procesorów graficznych do swoich maszyn wirtualnych w ciągu następnego roku.

Oprócz nowych generatywnych maszyn wirtualnych AI Azure firma Microsoft ogłosiła również rozszerzenie swojej usługi Azure OpenAI Service. Jest teraz dostępny w regionach Kanada Wschodnia, Wschodnia Stany Zjednoczone 2, Japonia Wschodnia i Południowa Wielka Brytania.

Usługa, o której pisaliśmy wcześniej , pomoże firmom tworzyć własne aplikacje oparte na sztucznej inteligencji. Odkąd po raz pierwszy ogłoszono go w marcu, Microsoft powiedział, że spotkał się ze świetnymi reakcjami ze strony firm:

Obecnie z dumą obsługujemy ponad 11 000 klientów, przyciągając średnio 100 nowych klientów dziennie w tym kwartale. Ten niezwykły wzrost jest świadectwem wartości i skalowalności, jaką nasza usługa zapewnia firmom, które chcą wykorzystać potencjał sztucznej inteligencji do swoich unikalnych potrzeb.

Microsoft dodał również, że najpotężniejsza wersja platformy ChatGPT AI, GPT-4, będzie również dostępna dla nowych regionów usługi Azure OpenAI.