跳至主要内容

⚙️ 聊天參數

在 Open WebUI 中設置 系統提示進階參數 有三個層級:每聊層級、每模型層級和每帳戶層級。這樣的分層結構允許靈活性,同時保持結構化的管理和控制。

系統提示與進階參數層級圖

層級定義修改權限覆蓋能力
每聊特定聊天實例的系統提示和進階參數用戶可以修改,但無法覆蓋模型特定的設置限制於無法覆蓋模型特定的設置
每帳戶特定使用者帳戶的默認系統提示和進階參數用戶可以設置,但可能被模型特定的設置覆蓋用戶設置可以被模型特定設置覆蓋
每模型特定模型的默認系統提示和進階參數管理員可以設置,用戶無法修改管理員特定設置優先,用戶設置可以被覆蓋

1. 每聊層級:

  • 描述:每聊層級設置是指為特定聊天實例配置的系統提示和進階參數。這些設定僅適用於當前會話,並不會影響未來的聊天。
  • 如何設置:用戶可以在 Open WebUI 右側側邊欄的 聊天控制 部分,修改特定聊天實例的系統提示和進階參數。
  • 覆蓋能力:用戶無法覆蓋管理員已經以每模型層級(#2)設置的 系統提示 或特定 進階參數。這確保了一致性及對模型特定設置的遵循。
範例使用情境
每聊層級:

假設某用戶想為特定對話設置自訂系統提示。他們可以透過訪問 聊天控制 部分並修改 系統提示 欄位來實現。這些更改僅適用於當前聊天會話。

2. 每帳戶層級:

  • 描述:每帳戶層級設置是指為特定用戶帳戶配置的默認系統提示和進階參數。在缺乏較低層級設置的情況下,任何用戶特定更改可以作為回退使用。
  • 如何設置:用戶可以在 Open WebUI 的 設置 選單下的 一般 部分,為自己的帳戶設置系統提示和進階參數。
  • 覆蓋能力:用戶可以為自己的帳戶設置系統提示,但須注意,這些參數仍可能被管理員已為特定模型設置的 系統提示 或特定 進階參數 覆蓋。
範例使用情境
每帳戶層級:

假設某用戶想為自己的帳戶設置系統提示。他們可以透過訪問 設置 選單並修改 系統提示 欄位來實現。

3. 每模型層級:

  • 描述:每模型層級設置是指為特定模型配置的默認系統提示和進階參數。這些設定適用於使用該模型的所有聊天實例。
  • 如何設置:管理員可以在 Open WebUI 的 工作區 下的 模型 部分,為特定模型設置默認系統提示和進階參數。
  • 覆蓋能力用戶帳戶無法修改以每模型層級(#3)設置的 系統提示 或特定 進階參數。如此限制防止用戶不當修改默認設置。
  • 上下文長度保留:當某模型的 系統提示 或特定 進階參數 由管理員在 工作區 部分手動設置時,這些 系統提示 或手動設置的 進階參數 無法在 一般 設置或 聊天控制 部分被 用戶 帳戶覆蓋或調整。這確保了一致性並防止每當用戶更改上下文長度設定時造成模型過度重新加載。
  • 模型優先順序:若某模型的 系統提示 或特定 進階參數 值由管理員在工作區部分預設,則 用戶 帳戶於 一般 設置或 聊天控制 部分進行的任何上下文長度更改將被忽略,並保留該模型的預設值。但需注意,管理員未設置的參數仍可由 用戶 帳戶於每帳戶或每聊層級手動調整。
Details

範例使用案例 :::提示 按模型設置: 假設管理員希望為特定模型設置一個預設的系統提示。他們可以進入 模型 部分,修改該模型的 系統提示 字段。任何使用此模型的聊天實例都會自動使用該模型的系統提示和高級參數。 :::

優化系統提示設置以實現最大靈活性

:::提示 額外提示 此提示適用於管理員和普通用戶帳號。為了實現系統提示的最大靈活性,我們建議考慮以下設置方式:

  • 將您主要的系統提示(例如,賦予LLM鮮明的特徵)分配到 常規 設置中的 系統提示 字段。這樣就可以在帳號層級設置,並且在不需要在 工作區 的模型內做調整的情況下,讓它成為所有LLM的系統提示。

  • 對於次要系統提示(例如,指派LLM一個需要執行的任務),您可以選擇將其放置在 聊天控件 側邊欄中的 系統提示 字段(按聊天設置)或者 工作區模型 部分(按模型設置)中供管理員直接設置。這樣可以讓帳號層級的系統提示與由 聊天控件 提供的逐聊天系統提示或者 模型 提供的逐模型系統提示結合使用。

  • 作為管理員,您應該通過 模型 部分按模型設置LLM參數以實現最佳的靈活性。對於這些次要的系統提示,請確保按照最大化靈活性並最小化在不同帳戶或聊天實例間的調整需求的方式進行設置。這對於您的管理員帳號以及所有用戶帳號來說都至關重要,需理解 聊天控件模型 部分中的系統提示應用到 LLM 的優先順序。 :::