微軟承認需要添加更多 GPU 以加快 Bing Chat 響應時間
微軟現在允許任何人在沒有等候名單的情況下查看其 Bing Chat 聊天機器人。當然,這意味著很多人現在是第一次結帳和使用該服務。但是,一些 Bing Chat 用戶現在表示響應速度越來越慢。
在與一位用戶的 Twitter 交流中,他表示他希望看到更快的響應時間,並補充說“有時我不得不等待太久,這太荒謬了”。微軟的廣告和網絡服務負責人 Mikhail Parakhin 以道歉回應,稱“使用量一直在增長,我們添加 GPU 的速度不夠快。”不過,他補充說,目前的情況將會得到解決。
Sorry about the latency: the usage keeps growing, we are not adding GPUs fast enough. We’ll get it fixed.
— Mikhail Parakhin (@MParakhin) May 8, 2023
這種情況是生成人工智能的最大障礙之一,因為這些服務需要在數據服務器中使用越來越多的專用 GPU。這些芯片的領先製造商目前是 NVIDIA。然而,未經證實的報導稱,AMD 和微軟正在合作開發新的 AI 芯片,這些芯片可能會在一定程度上消除對 NVIDIA 的依賴。
Parakhin 在本週末還花時間回答了其他 Twitter 用戶提出的更多 Bing Chat 問題。他告訴一位用戶,期待已久的 Bing 聊天記錄功能將在“幾天內”推出。他還告訴另一位用戶,正在討論 Bing Image Creator 中更多的縱橫比,但可能不會“立即”發生。最後,他告訴另一位用戶,他希望 Bing Chat 在某個時候支持 Code Interpreter,但補充說,“它需要安全地完成——這不是一項微不足道的任務。”
發佈留言