跳至主要内容
版本：1.2.0

模型管理

模型管理頁面允許用戶查看和管理用於微調或推理目的的支援模型清單。模型可以直接從 Hugging Face 儲存庫下載。使用此功能前， 請確保您的設備已連接到網際網路，因為模型下載需要存取外部伺服器。

此外，在首次嘗試下載時，系統會提示用戶提供來自 Hugging Face 的 存取權杖。此權杖可以按照 Hugging Face 官方指南進行權杖生成來取得。

Model Management

功能​

  1. 模型清單:
    • 顯示所有可用模型，包括其名稱、大小和當前處理狀態。
    • 用戶可以使用搜尋欄搜尋特定模型。
  2. 模型詳細資訊:
    • 模型名稱：指定模型的名稱（例如 meta-llama/Llama-3.1-8B-Instruct）。
    • 支援：對全參數使用 Phison 標籤，對 LoRA 機制使用 Unsloth。同時標記兩者的模型支援兩種不同的 LLM 微調方法。
    • 大小：顯示每個模型的儲存大小（例如 29.93 GiB、262.86 GiB）。
    • 處理狀態：指示模型是否準備就緒可用（✓ 表示已就緒）。
    • 操作：允許用戶管理模型（例如：下載、刪除）。
  3. 下載過程:
    • 顯示正在獲取的模型下載進度。
    • 提供模型大小和預估剩餘時間的清楚指示。
    • 支援中斷下載的 暫停 和 繼續 功能。
  4. 存取權杖要求:
    • 在初次下載期間，用戶需要提供 Hugging Face 存取權杖 進行身份驗證。 存取權杖
    • 要生成權杖，請造訪 Hugging Face 網站並按照官方說明創建和檢索您的個人權杖。

支援的模型​

  • 全參數（Phison 支援）
模型系統模型
Deepseek-aiDeepSeek-R1-Distill-Llama-70B
DeepSeek-R1-Distill-Qwen-32B
deepseek-llm-7b-chat
Googlegemma-3-27b-it
gemma-3-1b-it
gemma-2-9b-it
Meta-llamaLlama-3.3-70B-Instruct
Llama-3.2-3B-Instruct
Llama-3.1-405B-Instruct
Llama-3.1-8B-Instruct
Llama-3-Taiwan-70B-Instruct
MicrosoftPhi-4-reasoning
phi-4
Phi-3.5-mini-instruct
MistralMistral-Small-3.1-24B-Instruct-2503
Mixtral-8x22B-Instruct-v0.1
Mixtral-8x7B-Instruct-v0.1
QwenQwen3-32B
Qwen3-0.6B
QwQ-32B
Qwen2.5-72B-Instruct
Qwen2-7B
  • LoRA（Unsloth 支援）
模型系列模型
Deepseek-aiDeepSeek-R1-Distill-Llama-8B
DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-1.5B
DeepSeek-R1-Distill-Qwen-7B
Googlegemma-3-1b-it
gemma-3-4b-it
gemma-3-12b-it
Meta-llamaLlama-3.1-8B-Instruct
Llama-3.2-1B-Instruct
Llama-3.2-3B-Instruct
MistralaiMistral-7B-Instruct-v0.3
Mistral-Nemo-Instruct-2407
QwenQwen3-0.6B
Qwen3-0.6B-Base
Qwen3-1.7B
Qwen3-1.7B-Base
Qwen3-4B
Qwen3-4B-Base
Qwen3-8B
Qwen3-8B-Base
Qwen3-14B
Qwen3-14B-Base
MicrosoftPhi-3-mini-4k-instruct
Phi-3-medium-4k-instruct
IBM-granitegranite-3.2-2b-instruct
granite-3.2-8b-instruct

存取權杖步驟​

  1. 前往 Hugging Face 網站：https://huggingface.co。
  2. 登入您的 Hugging Face 帳戶。
  3. 前往您的帳戶設定並選擇 存取權杖 分頁。
  4. 生成一個具有所需權限的新權杖。
  5. 複製該權杖，並在應用程式的模型下載過程中出現提示時提供該權杖。

如需更多詳細資訊，請參閱 Hugging Face 文檔。

注意

某些模型（例如 LLAMA）在下載前需要用戶同意分享聯絡資訊。