Перейти к основному содержимому
warning

Этот учебник создан сообществом и не поддерживается командой Open WebUI. Он служит только демонстрацией того, как настроить Open WebUI для вашего конкретного использования. Хотите внести свой вклад? Ознакомьтесь с руководством по внесению вклада.

Руководство: Настройка RAG с документацией Open WebUI

В этом руководстве вы научитесь использовать Retrieval-Augmented Generation (RAG) с Open WebUI, чтобы загрузить реальную документацию в качестве базы знаний. Мы рассмотрим, как использовать последнюю документацию Open WebUI в качестве примера для этой настройки.

Обзор​

Что такое RAG?​

Retrieval-Augmented Generation (RAG) объединяет LLM с извлеченными знаниями из внешних источников. Система получает релевантные данные из загруженных документов или баз знаний, улучшая качество и точность ответов.

В этом руководстве показано, как:

  • Загрузить последнюю документацию Open WebUI в качестве базы знаний.
  • Подключить её к пользовательской модели.
  • Выполнять запросы к базе знаний для получения расширенной поддержки.

Настройка​

Пошаговая настройка: документация Open WebUI как база знаний​

Следуйте этим шагам, чтобы настроить RAG с документацией Open WebUI:

  1. Скачайте документацию:

  2. Распакуйте файлы:

    • Распакуйте файл main.zip, чтобы получить все файлы документации.

  3. Найдите файлы Markdown:

    • В распакованной папке найдите все файлы с расширениями .md и .mdx (подсказка: выполните поиск *.md*).

  4. Создайте базу знаний:

    • Перейдите в Рабочая область > Знания > + Создать базу знаний.

    • Назовите её: Документация Open WebUI

    • Цель: Поддержка

    Нажмите Создать знания.

  5. Загрузите файлы:

    • Перетащите файлы .md и .mdx из распакованной папки в базу знаний Документация Open WebUI.

Создание и настройка модели​

Создание пользовательской модели с базой знаний​

  1. Перейдите в раздел Модели:

    • Перейдите в Рабочая область > Модели > + Добавить новую модель.

  2. Настройте модель:

    • Название: Open WebUI
    • Базовая модель: (Выберите подходящую модель Llama или другую доступную модель)
    • Источник знаний: Выберите Документация Open WebUI в выпадающем списке.

  3. Сохраните модель.

Примеры и использование​

Выполнение запросов к модели документации Open WebUI​

  1. Создайте новый чат:

    • Перейдите в Новый чат и выберите модель Open WebUI.

  2. Примеры запросов:

    Пользователь: "Как настроить переменные окружения?"
    Система: "См. раздел 3.2: Используйте файл `.env` для управления конфигурациями."
    Пользователь: "Как обновить Open WebUI с использованием Docker?"
    Система: "См. `docker/updating.md`: Используйте `docker pull` и перезапустите контейнер."

    С использованием модели с включенным RAG система извлекает наиболее релевантные разделы из документации для ответа на ваш запрос.

Следующие шаги​

Следующие шаги​

  • Добавьте больше знаний: Продолжайте расширять базу знаний, добавляя больше документов.

С помощью этой настройки вы можете эффективно использовать документацию Open WebUI для помощи пользователям, извлекая релевантную информацию для их запросов. Удачного создания и работы с вашими пользовательскими моделями, обогащёнными знаниями!