La máquina virtual ND H100 v5 de Microsoft está generalmente disponible, Azure OpenAI Service está en más regiones

En marzo, Microsoft anunció que estaba colaborando con NVIDIA para crear la serie de máquinas virtuales (VM) Azure ND H100 v5 . Hoy, Microsoft anunció que esas nuevas supercomputadoras ahora están disponibles para el público en general y ofrecen acceso empresarial a un rendimiento más rápido para tareas generativas de inteligencia artificial.

Las nuevas máquinas virtuales utilizan las GPU NVIDIA Tensor Core H100 de NVIDIA y la red NVIDIA Quantum-2 InfiniBand. Por el momento, están disponibles para el acceso en las regiones de Azure Este y Oeste de Estados Unidos. Esto es lo que las empresas pueden esperar cuando se registran para acceder a estas nuevas y rápidas máquinas virtuales basadas en IA.

• GPU de supercomputación: Equipadas con ocho GPU NVIDIA Tensor Core H100, estas VM prometen un rendimiento del modelo de IA significativamente más rápido que las generaciones anteriores, lo que brinda a las empresas un poder computacional inigualable.
• Unidad de procesamiento informático (CPU) de última generación: al comprender la importancia crítica del rendimiento de la CPU para el entrenamiento y la inferencia de IA, hemos elegido los procesadores escalables Intel Xeon de cuarta generación como la base de estas máquinas virtuales, lo que garantiza una velocidad de procesamiento óptima.
• Redes de baja latencia: la inclusión de NVIDIA Quantum-2 CX7 InfiniBand con un ancho de banda de nodo cruzado de 400 GB/s garantiza un rendimiento perfecto en todas las GPU, igualando las capacidades de las supercomputadoras de mayor rendimiento a nivel mundial.
• Rendimiento optimizado de host a GPU: con PCIe Gen5 que proporciona un ancho de banda de 64 GB/s por GPU, Azure logra importantes ventajas de rendimiento entre la CPU y la GPU.
• Memoria a gran escala y ancho de banda de la memoria: la memoria DDR5 es el núcleo de estas máquinas virtuales y ofrece mayores velocidades de transferencia de datos y eficiencia, lo que las hace ideales para cargas de trabajo con conjuntos de datos más grandes.

Microsoft agregó que está trabajando para agregar cientos de miles de estas nuevas GPU para sus máquinas virtuales durante el próximo año.

Además de las nuevas máquinas virtuales generativas de AI Azure, Microsoft también ha anunciado una expansión de su servicio Azure OpenAI. Ahora está disponible en las regiones Este de Canadá, Este de Estados Unidos 2, Este de Japón y Sur de Reino Unido.

El servicio, como hemos informado anteriormente , ayudará a las empresas a crear sus propias aplicaciones impulsadas por IA. Desde que se anunció por primera vez en marzo, Microsoft ha dicho que ha recibido excelentes respuestas de las empresas:

Ahora servimos orgullosamente a más de 11,000 clientes, atrayendo un promedio de 100 nuevos clientes diariamente este trimestre. Este notable crecimiento es un testimonio del valor y la escalabilidad que nuestro servicio brinda a las empresas ansiosas por aprovechar el potencial de la IA para sus necesidades únicas.

Microsoft también agregó que la versión más poderosa de la plataforma ChatGPT AI, GPT-4, también estará disponible para las nuevas regiones de Azure OpenAI Service.