亞馬遜正在開發兩款用於 AWS 大語言模型訓練的定制生成 AI 芯片

在過去的幾個月裡，微軟、谷歌、OpenAI 和 NVIDIA 等公司因致力於推進生成式 AI 硬件和軟件服務而成為頭條新聞。亞馬遜等大型科技公司也試圖參與人工智能對話。

CNBC報導稱，亞馬遜網絡服務部門一直在開發兩款定制芯片：Inferentia 和 Trainium，希望這兩款芯片能夠與 NVIDIA 的 Grace Hopper 超級芯片相媲美，用於訓練大型語言模型。NVIDIA 剛剛宣布了下一代 Grace Hopper 平台，該平台將於 2024 年推出。

AWS 對製造定制芯片並不陌生。它始於 10 年前的 Nitro，亞馬遜表示，現在其每台 AWS 服務器中都至少配備了一塊 Nitro 芯片。

目前，亞馬遜在德克薩斯州奧斯汀的辦事處正在開發新版本的 Trainium 和 Inferential 芯片。這是該公司的解決方案，為客戶提供了一種在 AWS 服務器上使用亞馬遜製造的芯片訓練生成式 AI LLM 的方法，而無需使用基於 NVIDIA 的硬件。

亞馬遜表示，其最大的優勢之一是 AWS 已經被數百萬客戶使用，他們已經習慣了服務器及其工具。AWS 技術副總裁 Mai-Lan Tomsen Bukovec 表示：

這是速度的問題。這些公司開發這些生成式 AI 應用程序的速度取決於首先從 AWS 中擁有的數據開始，並使用我們提供的計算和機器學習工具。

雖然亞馬遜正在嘗試製造自己的芯片來訓練法學碩士，但它也在其 AWS 服務器中使用一些 NVIDIA 芯片來實現同樣的目的。7 月，它宣布 Amazon EC2 P5 實例可供 AWS 用戶使用。這些服務器由 NVIDIA H100 Tensor Core GPU 提供支持。

亞馬遜向 CNBC 表示，“超過 10 萬”的客戶正在使用 AWS 進行機器學習。雖然這只是該公司整體 AWS 客戶群的一小部分，但隨著生成式 AI 擴展到更多行業，越來越多的客戶可能會開始使用亞馬遜的解決方案。