Microsoft는 더 빠른 Bing Chat 응답 시간을 위해 더 많은 GPU를 추가해야 함을 인정합니다.

Microsoft는 이제 누구나 대기자 명단 없이 Bing Chat 챗봇을 확인할 수 있도록 허용합니다 . 물론 그것은 많은 사람들이 지금 처음으로 서비스를 확인하고 사용하고 있음을 의미합니다. 그러나 일부 Bing Chat 사용자는 이제 응답이 느려지고 있다고 말합니다.

더 빠른 응답 시간을 보고 싶다고 말한 사용자와의 트위터 대화 에서 “때때로 너무 오래 기다려야 하므로 우스꽝스럽습니다.”라고 덧붙였습니다. Microsoft의 광고 및 웹 서비스 책임자인 Mikhail Parakhin은 “사용이 계속 증가하고 있으며 GPU를 충분히 빠르게 추가하지 못하고 있습니다.

Sorry about the latency: the usage keeps growing, we are not adding GPUs fast enough. We’ll get it fixed.

— Mikhail Parakhin (@MParakhin) May 8, 2023

이러한 상황은 생성 AI의 가장 큰 장애물 중 하나입니다. 이러한 서비스는 데이터 서버에서 점점 더 전문화된 GPU를 필요로 하기 때문입니다. 이 칩의 선두 제조업체는 현재 NVIDIA입니다. 그러나 확인되지 않은 보고서에 따르면 AMD와 Microsoft는 NVIDIA 사용에 대한 의존도를 일부 제거할 수 있는 새로운 AI 칩을 개발하기 위해 협력하고 있다고 주장합니다.

Parakhin은 또한 이번 주말에 다른 Twitter 사용자의 Bing Chat 질문에 답하는 시간을 가졌습니다. 그는 한 사용자에게 오랫동안 기다려온 Bing 채팅 기록 기능이 “며칠” 후에 제공될 것이라고 말했습니다. 그는 또 다른 사용자에게 Bing Image Creator의 더 많은 종횡비에 대해 논의하고 있지만 “즉시” 발생하지 않을 수도 있다고 말했습니다. 마지막으로 그는 또 다른 사용자에게 Bing Chat이 언젠가는 Code Interpreter를 지원하기를 희망하지만 “사소한 작업이 아니라 안전하게 수행해야 합니다.”라고 덧붙였습니다.