Microsoft geeft toe dat het meer GPU’s moet toevoegen voor snellere Bing Chat-responstijden

Microsoft staat nu toe dat iedereen zijn Bing Chat-chatbot zonder wachtlijst kan bekijken . Dat betekent natuurlijk dat veel mensen nu voor het eerst uitchecken en de service gebruiken. Sommige Bing Chat-gebruikers zeggen nu echter dat de reacties langzamer worden.

In een Twitter-uitwisseling met een gebruiker die verklaarde dat hij snellere reactietijden wilde zien, eraan toevoegend “soms moet ik zo lang wachten dat het belachelijk is”. Mikhail Parakhin van Microsoft, het hoofd van zijn reclame- en webservices, reageerde met een verontschuldiging en verklaarde: “het gebruik blijft groeien, we voegen niet snel genoeg GPU’s toe.” Hij voegde er echter aan toe dat deze huidige situatie zal worden opgelost.

Sorry about the latency: the usage keeps growing, we are not adding GPUs fast enough. We’ll get it fixed.

— Mikhail Parakhin (@MParakhin) May 8, 2023

Deze situatie is een van de grootste obstakels voor generatieve AI, aangezien deze diensten steeds meer gespecialiseerde GPU’s in dataservers nodig hebben. De toonaangevende maker van deze chips is momenteel NVIDIA. Onbevestigde rapporten beweren echter dat AMD en Microsoft samenwerken om nieuwe AI-chips te ontwikkelen die een deel van de afhankelijkheid van het gebruik van NVIDIA zouden kunnen wegnemen.

Parakhin nam dit weekend ook de tijd om nog wat Bing Chat-vragen van andere Twitter-gebruikers te beantwoorden. Hij vertelde een gebruiker dat de langverwachte Bing-chatgeschiedenisfunctie over “dagen” komt. Hij vertelde een andere gebruiker ook dat er meer beeldverhoudingen in Bing Image Creator worden besproken, maar dat dit misschien niet “onmiddellijk” gebeurt. Ten slotte vertelde hij een andere gebruiker dat hij hoopt dat Bing Chat ooit Code Interpreter zal ondersteunen, maar voegde eraan toe: “Het moet veilig worden gedaan – geen triviale taak.”