版本 1.4
GenAI Studio 版本 1.4 系列已經發行:
- 初始版 v1.4.0 已於 2026/07/01 發行。
- 尚未發行修訂版。
✨ 功能新增
ChatML 訓練資料集格式
此版本新增了 ChatML 訓練資料集格式,支援模型微調時更廣泛的資料集需求。
🚀 功能強化
模型支援更新
此版本針對 LoRA 微調功能新增了許多大型語言模型的支援,包含了 Google 的 Gemma4 系列、 OpenAI 的 GPT-OSS 系列、以及 Qwen3.5 系列。完整的模型支援清單請參閱 模型支援清單 的說明。
⚙️ 核心功能升級
- Node.JS: 升級至 22 LTS。
📦 第三方套件
GenAI Studio 使用以下第三方套件:
- dcgm-exporter (4.5.2-4.8.1-ubuntu22.04)
此套件將 GPU 的監控指標傳送給 Prometheus 進行搜集。 - Flowise (2.2.7-patch.2)
GenAI Studio 透過此套件提供自動化 RAGOps 的功能和工作流程。 - Grafana (12.3)
此套件將 Prometheus 搜集的監控數據展示成系統的資源監控儀表板。 - llama.cpp (full-cuda-b8882)
此套件提供 GenAI Studio 將模型轉換為 GGUF 檔案格式的能力。 - node-exporter (1.10.2)
此套件將所需的主機監控指標傳送給 Prometheus 進行搜集。 - Ollama (0.30.4)
此套件為模型推理伺服器。 - OpenVINO (1.27.0)
此套件提供將模型轉換為 OpenVINO 檔案格式的能力。 - Phison aiDAPTIVLink (NXUN205.A1)
GenAI Studio 利用此套件提供使用者執行全參數模型微調功能。 - PostgreSQL (16.13)
此套件提供關聯式資料庫的功能。 - Prometheus (3.10.0)
此套件會收集監控所需的所有指標數據以作為 Grafana 的資料來源。 - Qdrant (1.17)
此套件提供向量資料庫的儲存能力。 - Unsloth (2026.6.1)
GenAI Studio 利用此套件提供使用者對模型執行 LoRA 微調的能力。 - vsFTP (3.0.5)
此套件提供 GenAI Studio 將轉換過的模型檔案可讓外部系統進行下載的功能。
⚠️ 已知問題
- 針對
GPT-OSS系列模型進行微調後,在驗證模型時 (包含人工驗證與自動驗證) 有可能出現空回應的情況。 - 目前
mistralai/Mistral-Small-3.1-24B-Instruct-2503模型只能在經過系統微調功能後, 才能對其進行驗證模型的功能;針對未經微調的基礎模型,不論是人工驗證還是自動驗證皆會失敗。 - 對 LoRA 微調進行排程時,若模型選擇 Qwen-3.5 或 Gemma4 系列時,無法選擇對應資料集格式。