跳至主要内容

與 Open WebUI 整合 Langfuse

Langfuse (GitHub) 為 Open WebUI 提供開源的可觀察性和評估功能。啟用 Langfuse 整合後，您可以使用 Langfuse 跟蹤您的應用程式數據，以開發、監控及改善對 Open WebUI 的使用，包括：

  • 應用程式 追蹤
  • 使用模式
  • 按用戶和模型的成本數據
  • 重播會話以調試問題
  • 評估

如何將 Langfuse 與 Open WebUI 整合​

Langfuse 整合 Langfuse 整合步驟

Pipelines 是 Open WebUI 中一個與使用者界面無關的框架，用於 OpenAI API 插件。它允許插入攔截、處理和轉發用戶提示的插件，從而增強對提示處理的控制和自訂功能。

要使用 Langfuse 跟蹤您的應用程式數據，您可以使用 Langfuse pipeline，這可以實現消息互動的實時監控和分析。

快速入門指南​

步驟 1: 安裝 Open WebUI​

確保 Open WebUI 正在運行。如需操作指南，請參考 Open WebUI 文檔。

步驟 2: 安裝 Pipelines​

使用 Docker 啟動 Pipelines。運行以下命令以啟動 Pipelines：

docker run -p 9099:9099 --add-host=host.docker.internal:host-gateway -v pipelines:/app/pipelines --name pipelines --restart always ghcr.io/open-webui/pipelines:main

步驟 3: 將 Open WebUI 與 Pipelines 連接​

在 管理設置 中，創建並保存一個新的 OpenAI API 類型的連接，填入以下詳細信息：

  • URL:http://host.docker.internal:9099（這是之前啟動的 Docker 容器運行所在的地址）。
  • 密碼: 0p3n-w3bu!（默認密碼）

Open WebUI 設置

步驟 4: 添加 Langfuse 過濾管道​

接下來，導航到 管理設置 -> Pipelines，並添加 Langfuse 過濾管道。指定 Pipelines 在http://host.docker.internal:9099（之前配置的地址）上監聽，並使用如下的 從 Github URL 安裝 選項安裝 Langfuse 過濾管道：

https://github.com/open-webui/pipelines/blob/main/examples/filters/langfuse_filter_pipeline.py

現在，在下方添加您的 Langfuse API 金鑰。如果您尚未註冊 Langfuse，您可以通過 此處 創建帳戶以獲取您的 API 金鑰。

Open WebUI 添加 Langfuse 管道

注意: 為了在啟用流模式時捕獲 OpenAI 模型的使用情況（例如令牌計數），您需要導航到 Open WebUI 的模型設置，並在 功能 下勾選 "Usage" 選項。

步驟 5: 在 Langfuse 中查看您的追蹤記錄​

現在，您可以與您的 Open WebUI 應用程式互動，並在 Langfuse 中查看追蹤記錄。

範例追蹤 在 Langfuse UI 中的顯示：

Open WebUI 範例追蹤在 Langfuse 中顯示

瞭解更多​

有關 Open WebUI Pipelines 的完整指南，請訪問 這篇文章。