快速入門:在 Glows.ai 執行 DeepSeek-R1
教學
DeepSeek-R1 是由 DeepSeek 團隊開發的 AI 模型,以現有的開放原始碼大型語言模型為基礎,透過微調與強化學習改善效能,並非從頭開始訓練。
DeepSeek-R1 採用知識蒸餾等方法,壓縮及精簡模型參數,在保留原始模型核心知識與推理能力的同時提高運算效率。因此,它能提供語言理解與生成能力,所需的運算資源也相對較少。
DeepSeek-R1 兼具開放原始碼模型的效率與彈性,可用於文字分析、對話式 AI、程式碼輔助和知識檢索。它能部署在雲端運算環境、個人電腦或企業伺服器上,供 AI 研究與商業應用使用。
步驟一:登入 Glows.ai 並啟動環境
-
註冊並登入:前往 Glows.ai 完成註冊並登入帳號。
-
點選右上角的
Create New。 選擇 GPU 規格後,頁面會顯示數個官方映像檔。找到 DeepSeek-R1 官方映像檔。 -
選擇要租用的數量。 接著點選「Complete Checkout」。系統會設定所需的資源與相依套件。
注意: Glows.ai 提供兩種 DeepSeek-R1 設定: 32B: 適合在消費級 GPU 上部署與開發。 70B: 適合大規模 AI 原生應用。使用 70B 設定至少需要 2 Unit Qty NVIDIA GeForce RTX 4090 GPUs。
步驟二:存取 DeepSeek-R1
以下以 DeepSeek-R1 32B 為例。Glows.ai 提供兩種存取入口:
- SSH 存取(Port 22)
- SSH 提供後端環境的命令列存取方式,適合進階操作。
- SSH 命令:
ssh user@<your-instance>-p22 - 密碼:請查看 Glows.ai 控制台中的執行個體詳細資料。
- JupyterLab(HTTP Port 8080) JupyterLab 是用來建立工作流程的互動式開發環境。
- 開啟 URL:
http://<your-instance>:8080 - 登入資訊:由系統自動設定,或顯示於控制台中。
步驟三:儲存並整合結果
- 匯出輸出內容
- 你可以透過 WebUI 將產生的內容儲存到本機裝置,供後續使用。
- 進一步整合
- 若要進行大規模文字處理,或整合到企業工作流程,請使用 Glows.ai 的 API 部署工具,將 DeepSeek-R1 串接至應用程式或服務。