如何透過 Meta AI 在本地運行 Llama 3
要知道什麼
- Meta 的大型語言模型 Llama 3 可供您下載並在您的系統上本地運行。
- 從Llama.meta.com下載 Meta Llama 3並使用 LLM 框架（例如LM studio）載入模型。
- 您也可以從 LM studio 本身搜尋並下載 Meta Llama 3。請參閱下面的指南以取得詳細說明。
Meta 的最新語言模型 Llama 3 現已免費提供。雖然您可以使用運行相同 LLM 的 Meta AI，但也可以選擇下載模型並在系統上本地運行它。
如何透過 Meta AI 在本地運行 Llama 3
儘管 Meta AI 僅在部分國家/地區可用，但無論您位於哪個地區，您都可以在 PC 上本地下載並運行 Llama 3。請依照以下步驟在本地運行 Meta AI 的 Llama 3。
步驟1：安裝LM Studio
首先，讓我們安裝一個運行 Llama 3 的框架。如果您的系統上已有另一個此類應用程序，則可以跳至下一步。對於其他人，以下是獲取 LM studio 的方法：
- LM工作室| 下載連結
- 使用上面的連結並點擊 LM Studio for Windows 進行下載。
- 下載後，執行安裝程式並安裝 LM Studio。
步驟2：將Meta的Llama 3下載到本地
一旦您擁有了 LLM 框架，就可以將 Meta 的 Llama 3 下載到您的 PC 上。有幾種方法可以解決這個問題。
- 開啟Llama.Meta.com並點選「下載模型」。
- 輸入您的詳細信息，並請求下載 LLM。
如果上述方法不起作用，也不必擔心。您也可以使用您的 LLM 框架來下載 LLM。
- 只需在 LM Studio 的搜尋欄位中搜尋 Meta Llama 即可。
- 在這裡，您會找到各種量化的法學碩士。選擇一個。
- 在右側，選擇您喜歡的版本。點擊旁邊的下載。
- 等待下載完成。
- 完成後，點擊左側的我的模型。
- 並檢查下載是否完成。
第三步：載入下載的模型
- 下載完成後，點選左側的AI聊天。
- 按一下選擇要載入的模型。
- 並選擇下載的Meta Llama 3。
- 等待模型載入。
- 載入後，您可以將整個模型卸載到 GPU。為此，請點擊“設定”下的高級配置。
- 按一下Max將整個模型卸載到 GPU。
- 點擊重新載入模型以套用配置。
第 4 步：運行 Llama 3（並根據提示進行測試）
模型載入後，您可以開始在本地與 Llama 3 聊天。不，由於 LLM 儲存在您的電腦本機，因此您不需要網路連線即可執行此操作。那麼讓我們對 Llama 3 進行測試，看看它有什麼能力。
測試審查阻力
測試對複雜主題的理解
測試幻覺
測試創造力和理解力
大多數人認為，Llama 3 是一個相當可靠的大型語言模型。除了上面提到的測試提示之外，即使在一些更複雜的主題和提示上，它也表現出色。
我們希望您能像我們一樣在本機 Windows 11 PC 上執行 Meta 的 Llama 3。直到下一次！
發佈留言