フィルター

フィルターは、ユーザーからの受信メッセージや外部アシスタント（LLM）の送信メッセージに対してアクションを実行するために使用されます。フィルターで実行可能なアクションには、監視プラットフォーム（例: LangfuseやDataDog）へのメッセージ送信、メッセージ内容の変更、有害メッセージのブロック、メッセージの別の言語への翻訳、特定のユーザーからのメッセージのレート制限などがあります。具体例のリストは、Pipelines レポジトリで管理されています。フィルターは関数として、またはPipelinesサーバーで実行できます。一般的なワークフローは以下の画像で確認できます。

モデルまたはパイプでフィルターパイプラインを有効にすると、ユーザーからの受信メッセージ（または「インレット」）がフィルターに渡され、処理されます。フィルターはメッセージに対して希望するアクションを実行した後、LLMモデルにチャット完了をリクエストします。最後に、フィルターは送信されるLLMメッセージ（または「アウトレット」）に対して後処理を行い、それをユーザーに送信します。