Конвейеры: UI-независимая платформа плагинов OpenAI API
НЕ ИСПОЛЬЗУЙТЕ КОНВЕЙЕРЫ, ЕСЛИ!
Если ваша цель — просто добавить поддержку дополнительных провайдеров, таких как Anthropic, или базовых фильтров, вам, вероятно, не нужны Конвейеры. В этих случаях лучше подойдут функции Open WebUI — они встроены, более удобны и легко настраиваются. Конвейеры пригодятся, когда вы работаете с вычислительно сложными задачами (например, выполнение крупных моделей или сложной логики), которы е нужно разгрузить от основной инстанции Open WebUI для повышения производительности и масштабируемости.
Добро пожаловать в Конвейеры, инициативу Open WebUI. Конвейеры позволяют создавать модульные, настраиваемые рабочие процессы для любых клиентских интерфейсов, поддерживающих спецификации OpenAI API — и многое другое! Легко расширяйте функциональность, добавляйте уникальную логику и создавайте динамические рабочие процессы всего за несколько строк кода.
🚀 Почему стоит выбрать Конвейеры?
- Безграничные возможности: Легко добавляйте собственную логику и интегрируйте библиотеки Python — от AI-агентов до API домашней автоматизации.
- Бесшовная интеграция: Совместимость с любым интерфейсом/клиентом, поддерживающим спецификации OpenAI API. (Поддерживаются только конвейеры типа pipe; фильтры требуют к лиентов с поддержкой Конвейеров.)
- Настраиваемые хуки: Создавайте и интегрируйте собственные конвейеры.
Примеры того, что вы можете сделать:
- Конвейер вызова функций: Легко обрабатывайте вызовы функций и улучшайте свои приложения с помощью пользовательской логики.
- Пользовательский конвейер RAG: Реализуйте сложные конвейеры генерации с использованием улучшенного поиска, адаптированные для ваших нужд.
- Мониторинг сообщений с использованием Langfuse: Отслеживайте и анализируйте взаимодействие сообщений в реальном времени с помощью Langfuse.
- Фильтр ограничения частоты: Управляйте потоком запросов, чтобы избежать превышения лимитов частоты.
- Фильтр перевода в реальном времени с LibreTranslate: Легко интегрируйте переводы в реальном времени в свои взаимодействия с LLM.
- Фильтр токсичных сообщений: Реализуйте фильтры для эффективного обнаружения и обработки токсичных сообщений.
- И многое другое!: Ваши возможности с Конвейерами и Python практически безграничны. Посмотрите наши шаблоны, чтобы начать свои проекты и упростить процесс разработки!
🔧 Как это работает
Интеграция Конвейеров с любым клиентом, совместимым с OpenAI API, проста. Запустите свой экземпляр Конвейеров и установите в клиенте URL OpenAI на URL Конвейеров. Вот и всё! Вы готовы использовать любую библиотеку Python для ваших нужд.
⚡ Быстрый старт с Docker
Конвейеры — это система плагинов с произвольным выполнением кода — не загружайте случайные конвейеры из источников, которым вы не доверяете.
Для упрощённой настройки с использованием Docker:
-
Запустите контейнер Конвейеров:
docker run -d -p 9099:9099 --add-host=host.docker.internal:host-gateway -v pipelines:/app/pipelines --name pipelines --restart always ghcr.io/open-webui/pipelines:main
-
Подключитесь к Open WebUI:
- Перейдите в раздел Admin Panel > Settings > Connections в Open WebUI.
- На этой странице вы можете нажать кнопку
+
, чтобы добавить соединение. - Установите URL API на
http://localhost:9099
и ключ API на0p3n-w3bu!
. - После добавления соединения с конвейерами и проверки его вы увидите иконку в поле базового URL API добавленного соединения. При наведении указателя на иконку она будет обозначена как
Конвейеры
. Ваши конвейеры должны быть активны.
Если ваш Open WebUI запущен в контейнере Docker, замените localhost
на host.docker.internal
в URL API.
-
Управляйте конфигурациями:
- В панели администратора перейдите на вкладку Admin Panel > Settings > Pipelines.
- Выберите желаемый конвейер и измените значения клапанов непосредственно из WebUI.
Если вы не можете подключиться, скорее всего, это проблема с сетью Docker. Мы рекомендуем вам самостоятельно устранить неполадки и поделиться своими методами и решениями на форуме обсуждений.
Если вам нужно установить пользовательский конвейер с дополнительными зависимостями:
-
Запустите следующую команду:
docker run -d -p 9099:9099 --add-host=host.docker.internal:host-gateway -e PIPELINES_URLS="https://github.com/open-webui/pipelines/blob/main/examples/filters/detoxify_filter_pipeline.py" -v pipelines:/app/pipelines --name pipelines --restart always ghcr.io/open-webui/pipelines:main
Кроме того, вы можете напрямую устанавливать конвейеры из настроек администратора, копируя и вставляя URL конвейера, при условии, что у него нет дополнительных зависимостей.
Вот и все! Теперь вы готовы легко создавать настраиваемые интеграции AI с помощью Pipelines. Наслаждайтесь!
📦 Установка и настройка
Начните работу с Pipelines в несколько простых шагов:
-
Убедитесь, что установлен Python 3.11. Это единственная официально поддерживаемая версия Python.
-
Клонируйте репозиторий Pipelines:
git clone https://github.com/open-webui/pipelines.git
cd pipelines -
Установите необходимые зависимости:
pip install -r requirements.txt
-
Запустите сервер Pipelines:
sh ./start.sh
После запуска сервера установите URL OpenAI на вашем клиенте в URL Pipelines. Это открывает все возможности Pipelines, позволяя интегрировать любую библиотеку Python и создавать пользовательские рабочие процессы, ориентированные на ваши потребности.
📂 Структура каталога и примеры
Каталог /pipelines
является основой вашей настройки. Добавляйте новые модули, настраивайте существующие и управляйте своими рабочими процессами здесь. Все конвейеры в каталоге /pipelines
будут автоматически загружены при запуске сервера.
Вы можете изменить этот каталог с /pipelines
на другое место, используя переменную окружения PIPELINES_DIR
.
Примеры и нтеграции
Найдите различные примеры интеграции в каталоге https://github.com/open-webui/pipelines/blob/main/examples
. Эти примеры показывают, как интегрировать различные функции, предоставляя основу для построения ваших собственных пользовательских конвейеров.
🎉 Работа продолжается
Мы продолжаем развиваться! Мы будем рады услышать вашу обратную связь и понять, какие хуки и функции лучше всего подходят для вашего случая использования. Не стесняйтесь связаться с нами и стать частью нашего сообщества Open WebUI!
Наше видение - сделать Pipelines лучшей платформой плагинов для нашего интерфейса AI, Open WebUI. Представьте Open WebUI как WordPress для AI интерфейсов, а Pipelines как разнообразный набор его плагинов. Присоединяйтесь к нам в этом захватывающем путешествии! 🌍