微軟ND H100 v5虛擬機全面上市，Azure OpenAI服務覆蓋更多地區

今年 3 月，微軟宣布與 NVIDIA 合作打造Azure ND H100 v5 虛擬機 (VM) 系列。今天，微軟宣布這些新的超級計算機現已全面上市，為企業提供更快的生成人工智能任務性能，

新的虛擬機使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 網絡。目前，美國東部和西部 Azure 區域均可訪問它們。以下是企業在註冊訪問這些新的、快速的基於人工智能的虛擬機時可以期待的。

• 超級計算 GPU：這些虛擬機配備 8 個 NVIDIA Tensor Core H100 GPU，可提供比前幾代更快的 AI 模型性能，為企業提供無與倫比的計算能力。
• 下一代計算機處理單元 (CPU)：了解 CPU 性能對於 AI 訓練和推理的重要性，我們選擇第四代 Intel Xeon 可擴展處理器作為這些虛擬機的基礎，確保最佳處理速度
• 低延遲網絡：採用具有 400GB/s 跨節點帶寬的 NVIDIA Quantum-2 CX7 InfiniBand 可確保跨 GPU 的無縫性能，與全球性能最高的超級計算機的功能相匹配。
• 優化主機到 GPU 的性能：借助 PCIe Gen5 為每個 GPU 提供 64GB/s 的帶寬，Azure 在 CPU 和 GPU 之間實現了顯著的性能優勢。
• 大規模內存和內存帶寬：DDR5 內存是這些虛擬機的核心，可提供更高的數據傳輸速度和效率，使其成為具有較大數據集的工作負載的理想選擇。

微軟補充說，它正在努力在明年為其虛擬機添加數十萬個新 GPU。

除了新的生成式 AI Azure 虛擬機外，微軟還宣布擴展其 Azure OpenAI 服務。它現已在加拿大東部、美國東部 2、日本東部和英國南部區域推出。

正如我們之前報導的那樣，該服務將幫助企業創建自己的人工智能應用程序。微軟表示，自 3 月份首次宣布以來，它已經得到了企業的熱烈響應：

我們現在自豪地為超過 11,000 名客戶提供服務，本季度平均每天吸引 100 名新客戶。這一顯著的增長證明了我們的服務為渴望利用人工智能潛力來滿足其獨特需求的企業帶來的價值和可擴展性。

微軟還補充說，ChatGPT AI 平台最強大的版本 GPT-4 也將適用於新的 Azure OpenAI 服務區域。