跳至主要内容

🤖 模型

Workspace 中的 Models 部分是 Open WebUI 的一個強大工具，可讓您建立及管理符合特定用途的自定義模型。此部分充當您的所有模型文件的中心樞紐，提供多種功能來編輯、複製、分享、導出和隱藏模型。

模型文件管理​

在 Models 部分，您可以對模型文件執行以下操作：

  • 編輯: 深入模型文件細節，對其角色等進行更改。
  • 複製: 建立模型文件的複本，複製的 Model ID 會添加 -clone 後綴。注意，您無法複製基礎模型；須先建立模型後方可複製。
  • 分享: 點擊 Share 按鈕與 Open WebUI 社區分享您的模型文件，系統會將您重定向至https://openwebui.com/models/create。
  • 導出: 下載模型文件的 .json 導出至您的電腦。
  • 隱藏: 從聊天中的模型選擇下拉框中隱藏模型文件。

模型文件編輯​

編輯模型文件時，您可以自定義以下設置：

  • 頭像圖片: 上傳代表模型文件的頭像圖片。
  • 模型名稱: 更改模型文件的名稱。
  • 系統提示: 為模型文件提供可選的系統提示。
  • 模型參數: 調整模型文件的參數。
  • 提示建議: 添加提示，這些提示將顯示在新的聊天頁面上。
  • 文件: 將文件添加到模型文件中（始終為 RAG [檢索增強生成]）。
  • 工具、篩選器和操作: 選擇模型文件可用的工具、篩選器和操作。
  • 視覺功能: 切換以啟用多模態的 Vision。
  • 標籤: 添加標籤到模型文件，標籤將顯示於模型選擇下拉框中的模型名稱旁。

模型探索及匯入/導出​

Models 部分還包含匯入及導出模型的功能：

  • 匯入模型: 使用此按鈕從 .json 文件或其他來源匯入模型。
  • 導出模型: 使用此按鈕將所有模型文件導出至一個 .json 文件。

要下載模型，請導航至「Connections」標籤內的 Ollama Settings。 此外，您還可以通過在模型選擇下拉框中輸入類似 ollama run hf.co/[model creator]/[model name] 的指令來直接下載模型。 此操作將創建一個名為「Pull [Model Name]」的按鈕供下載。

模型切換​

示例: 在多階段任務中切換使用 Mistral、LLaVA 和 GPT-3.5

  • 場景: 一個多階段的對話涉及不同類型的任務，例如以簡單的問答開始，解釋圖片，然后生成創意回應。

  • 切換原因: 使用者可以針對每個階段利用各模型的特定優勢：

    • Mistral 處理一般問題以減少計算時間和成本。
    • LLaVA 處理視覺任務以從圖片數據中獲得洞察。
    • GPT-3.5 用於產生更高級且更細緻的語言輸出。

  • 過程: 使用者根據任務類型切換模型，以最大化效率和回應質量。

    操作步驟:

    1. 選擇模型: 在聊天界面中，從模型切換器下拉框中選擇所需的模型。您可以同時選擇最多兩個模型，並生成兩個回應。然後可以使用前後箭頭在它們之間切換。
    2. 上下文保留: Open WebUI 在模型切換過程中保留對話的上下文，確保平滑過渡。