A VM ND H100 v5 da Microsoft está em disponibilidade geral, o serviço Azure OpenAI está em mais regiões

Em março, a Microsoft anunciou que estava colaborando com a NVIDIA para criar a série Azure ND H100 v5 Virtual Machine (VM) . Hoje, a Microsoft anunciou que esses novos supercomputadores já estão disponíveis, oferecendo acesso comercial a um desempenho mais rápido para tarefas de IA generativas,

As novas VMs usam GPUs NVIDIA Tensor Core H100 da NVIDIA e rede NVIDIA Quantum-2 InfiniBand. No momento, eles estão disponíveis para acesso nas regiões Leste e Oeste dos Estados Unidos do Azure. Veja o que as empresas podem esperar quando se inscreverem para acessar essas novas e rápidas VMs baseadas em IA.

• GPUs de supercomputação: equipadas com oito GPUs NVIDIA Tensor Core H100, essas VMs prometem desempenho de modelo de IA significativamente mais rápido do que as gerações anteriores, capacitando as empresas com poder computacional incomparável.
• Unidade de processamento de computador (CPU) de próxima geração: Compreendendo a criticidade do desempenho da CPU para treinamento e inferência de IA, escolhemos os processadores escaláveis ​​Intel Xeon de 4ª geração como base dessas VMs, garantindo velocidade de processamento ideal
• Rede de baixa latência: a inclusão do NVIDIA Quantum-2 CX7 InfiniBand com largura de banda cruzada de 400 GB/s garante um desempenho contínuo nas GPUs, igualando os recursos dos supercomputadores de alto desempenho globalmente.
• Host otimizado para desempenho de GPU: com PCIe Gen5 fornecendo largura de banda de 64 GB/s por GPU, o Azure obtém vantagens significativas de desempenho entre CPU e GPU.
• Memória de grande escala e largura de banda de memória: a memória DDR5 está no centro dessas VMs, oferecendo maiores velocidades e eficiência de transferência de dados, tornando-as ideais para cargas de trabalho com conjuntos de dados maiores.

A Microsoft acrescentou que está trabalhando para adicionar centenas de milhares dessas novas GPUs para suas VMs no próximo ano.

Além das novas máquinas virtuais generativas AI Azure, a Microsoft também anunciou uma expansão de seu serviço Azure OpenAI. Agora está disponível nas regiões Leste do Canadá, Leste dos Estados Unidos 2, Leste do Japão e Sul do Reino Unido.

O serviço, como relatamos antes , ajudará as empresas a criar seus próprios aplicativos com tecnologia de IA. Desde que foi anunciado pela primeira vez em março, a Microsoft disse que recebeu ótimas respostas das empresas:

Agora atendemos com orgulho mais de 11.000 clientes, atraindo uma média de 100 novos clientes diariamente neste trimestre. Esse crescimento notável é uma prova do valor e escalabilidade que nosso serviço traz para empresas ansiosas por aproveitar o potencial da IA ​​para suas necessidades exclusivas.

A Microsoft também acrescentou que a versão mais poderosa da plataforma ChatGPT AI, GPT-4, também estará disponível para as novas regiões do Azure OpenAI Service.