Microsoft przyznaje, że musi dodać więcej procesorów graficznych, aby skrócić czas odpowiedzi Bing Chat

Microsoft pozwala teraz każdemu sprawdzić swojego chatbota Bing Chat bez listy oczekujących . Oczywiście oznacza to, że wiele osób sprawdza teraz i korzysta z usługi po raz pierwszy. Jednak niektórzy użytkownicy czatu Bing twierdzą teraz, że odpowiedzi stają się wolniejsze.

W wymianie na Twitterze z użytkownikiem , który stwierdził, że chce zobaczyć szybsze czasy odpowiedzi, dodając „czasami muszę czekać tak długo, że to śmieszne”. Michaił Parakhin z Microsoftu, szef Działu Reklamy i Usług Sieciowych, odpowiedział przeprosinami, stwierdzając, że „wykorzystanie wciąż rośnie, nie dodajemy procesorów graficznych wystarczająco szybko”. Dodał jednak, że obecna sytuacja zostanie naprawiona.

Sorry about the latency: the usage keeps growing, we are not adding GPUs fast enough. We’ll get it fixed.

— Mikhail Parakhin (@MParakhin) May 8, 2023

Ta sytuacja jest jedną z największych przeszkód dla generatywnej sztucznej inteligencji, ponieważ usługi te wymagają coraz bardziej wyspecjalizowanych procesorów graficznych w serwerach danych. Wiodącym producentem tych układów jest obecnie NVIDIA. Jednak niepotwierdzone raporty twierdzą, że AMD i Microsoft łączą siły w celu opracowania nowych chipów AI, które mogą częściowo wyeliminować zależność od używania NVIDII.

Parakhin poświęcił również czas w ten weekend, aby odpowiedzieć na kilka pytań Bing Chat od innych użytkowników Twittera. Powiedział jednemu użytkownikowi , że długo oczekiwana funkcja historii czatów Bing pojawi się za „dni”. Powiedział też innemu użytkownikowi , że dyskutuje się o większej liczbie współczynników proporcji w Bing Image Creator, ale może to nie nastąpić „natychmiast”. Na koniec powiedział innemu użytkownikowi , że ma nadzieję, że Bing Chat w pewnym momencie będzie obsługiwał Interpreter kodu, ale dodał: „To musi być zrobione bezpiecznie – nie jest to trywialne zadanie”.