Трубы
Трубы — это функции, которые можно использовать для в ыполнения действий перед возвращением сообщений LLM пользователю. Примеры возможных действий с использованием труб включают вспомогательную генерацию данных (RAG), отправку запросов к поставщикам LLM, отличным от OpenAI (таким как Anthropic, Azure OpenAI или Google), или выполнение функций прямо в вашем веб-интерфейсе. Трубы могут быть размещены как Функция или на сервере Pipelines. Список примеров поддерживается в репозитории Pipelines. Общий рабочий процесс можно увидеть на изображении ниже.
Трубы, определенные в вашем WebUI, появляются как новая модель с обозначением "External", прикрепленным к ней. Пример двух моделей труб, Database RAG Pipeline и DOOM, представлен ниже рядом с двумя моделями, размещёнными самостоятельно:
