英特爾示範在單一第五代至強處理器上運行的雲端超密集 ChatGPT

英特爾今天拉開了2023 年創新活動的序幕，為期兩天的活動，看起來大部分焦點將集中在人工智慧(AI) 上，考慮到該技術確實具有很大的潛力，這在某種程度上是意料之中的。

除此之外，該公司還展示了雲端上的 ChatGPT 與在單一 Xeon 系統上運行的 70 億個參數模型。該系統由單一第五代 Xeon（代號為“Emerald Rapids”）處理器提供支援。雖然我們不確定，但英特爾在這裡提到的 70 億參數模型可能是 Falcon LLM。

雖然 GPT 和其他 LLM（大型語言模型）非常有用且玩起來也很有趣，但它們對硬體方面以及一般要求的要求可能非常高。例如，最近的研究表明，ChatGPT每 20 次左右的提示就會「喝」大約半公升水。在財務方面，今年稍早的一份報告顯示，ChatGPT每天的成本可能接近四分之三百萬，即70 萬美元。當然，像英特爾、AMD 和 Nvidia 這樣的硬體供應商也看到了這裡的機會，這就是為什麼他們在設計下一代解決方案時考慮到了人工智慧加速。

除了第五代至強演示之外，英特爾還展示了我們可以從下一代第六代“Granite Rapids”中期待的一些性能。該公司聲稱性能提升了 2-3 倍，部分原因是記憶體子系統升級帶來的提升。英特爾將在第六代至強上採用 12 通道，支援高達 DDR5-8800 MCR DIMM ，而第五代則採用 8 通道 DDR5-8000。前者計劃於 2024 年發布，而第五代已經向客戶提供樣品