Microsoft admite que precisa adicionar mais GPUs para tempos de resposta do Bing Chat mais rápidos

A Microsoft agora permite que qualquer pessoa verifique seu chatbot Bing Chat sem lista de espera . Claro, isso significa que muitas pessoas estão verificando e usando o serviço pela primeira vez. No entanto, alguns usuários do Bing Chat agora estão dizendo que as respostas estão ficando mais lentas.

Em uma troca de Twitter com um usuário que afirmou que queria ver tempos de resposta mais rápidos, acrescentando “às vezes tenho que esperar tanto tempo que é ridículo”. Mikhail Parakhin, da Microsoft, chefe de publicidade e serviços da Web, respondeu com um pedido de desculpas, afirmando que “o uso continua crescendo, não estamos adicionando GPUs rápido o suficiente”. No entanto, ele acrescentou que esta situação atual será corrigida.

Sorry about the latency: the usage keeps growing, we are not adding GPUs fast enough. We’ll get it fixed.

— Mikhail Parakhin (@MParakhin) May 8, 2023

Essa situação é um dos maiores obstáculos para a IA generativa, pois esses serviços precisam de GPUs cada vez mais especializadas em servidores de dados. Atualmente, o principal fabricante desses chips é a NVIDIA. No entanto, relatórios não confirmados afirmam que a AMD e a Microsoft estão se unindo para desenvolver novos chips de IA que podem eliminar parte da dependência do uso da NVIDIA.

Parakhin também reservou um tempo neste fim de semana para responder a mais algumas perguntas do Bing Chat de outros usuários do Twitter. Ele disse a um usuário que o tão esperado recurso de histórico de bate-papo do Bing está chegando em “dias”. Ele também disse a outro usuário que mais proporções no Bing Image Creator estão sendo discutidas, mas isso pode não acontecer “imediatamente”. Por fim, ele disse a outro usuário que espera que o Bing Chat ofereça suporte ao Code Interpreter em algum momento, mas acrescentou: “Isso precisa ser feito com segurança – não é uma tarefa trivial”.