Microsoft の ND H100 v5 VM が一般提供され、Azure OpenAI Service がより多くのリージョンで利用可能になりました

3 月、Microsoft は、NVIDIA と協力してAzure ND H100 v5 仮想マシン (VM) シリーズを作成すると発表しました。本日、Microsoft は、これらの新しいスーパーコンピューターが一般提供され、生成 AI タスクのより高速なパフォーマンスへのビジネス アクセスを提供すると発表しました。

新しい VM は、NVIDIA の NVIDIA Tensor Core H100 GPU と NVIDIA Quantum-2 InfiniBand ネットワーキングを使用します。現時点では、米国東部と西部の両方の Azure リージョンでアクセスできます。これらの新しい高速 AI ベースの VM にアクセスするために企業がサインアップする際に期待できることは次のとおりです。

• スーパーコンピューティング GPU: 8 つの NVIDIA Tensor Core H100 GPU を搭載したこれらの VM は、前世代よりも大幅に高速な AI モデルのパフォーマンスを約束し、比類のない計算能力でビジネスを強化します。
• 次世代コンピューター処理装置 (CPU): AI のトレーニングと推論における CPU パフォーマンスの重要性を理解し、これらの VM の基盤として第 4 世代インテル Xeon スケーラブル プロセッサーを選択し、最適な処理速度を確保します。
• 低遅延ネットワーキング: クロスノード帯域幅 400 GB/秒の NVIDIA Quantum-2 CX7 InfiniBand が組み込まれているため、GPU 全体でシームレスなパフォーマンスが保証され、世界中でトップパフォーマンスのスーパーコンピューターの機能に匹敵します。
• ホストから GPU までのパフォーマンスの最適化: PCIe Gen5 が GPU あたり 64 GB/秒の帯域幅を提供するため、Azure は CPU と GPU の間で大幅なパフォーマンス上の利点を実現します。
• 大規模なメモリとメモリ帯域幅: DDR5 メモリはこれらの VM の中核であり、より優れたデータ転送速度と効率を実現し、大規模なデータセットを含むワークロードに最適です。

Microsoft は、今後 1 年間で VM にこれらの新しい GPU を数十万個追加することに取り組んでいると付け加えました。

新しい生成 AI Azure 仮想マシンに加えて、Microsoft は Azure OpenAI サービスの拡張も発表しました。現在、カナダ東部、米国東部 2、日本東部、および英国南部のリージョンで利用可能です。

このサービスは、以前に報告したように、企業が独自の AI を活用したアプリを作成するのに役立ちます。3 月に初めて発表されて以来、Microsoft は企業から大きな反響を得ていると述べています。

当社は現在 11,000 を超える顧客にサービスを提供しており、今四半期は毎日平均 100 人の新規顧客を獲得しています。この目覚ましい成長は、独自のニーズに合わせて AI の可能性を活用したいと考えている企業に、当社のサービスがもたらす価値と拡張性の証です。

Microsoft はまた、ChatGPT AI プラットフォームの最も強力なバージョンである GPT-4 も、新しい Azure OpenAI サービス リージョンで利用できるようになると付け加えました。