メインコンテンツまでスキップ

フィルター

フィルターは、ユーザーからの受信メッセージや外部アシスタント(LLM)の送信メッセージに対してアクションを実行するために使用されます。フィルターで実行可能なアクションには、監視プラットフォーム(例: LangfuseやDataDog)へのメッセージ送信、メッセージ内容の変更、有害メッセージのブロック、メッセージの別の言語への翻訳、特定のユーザーからのメッセージのレート制限などがあります。具体例のリストは、Pipelines レポジトリで管理されています。フィルターは関数として、またはPipelinesサーバーで実行できます。一般的なワークフローは以下の画像で確認できます。

フィルターワークフロー

モデルまたはパイプでフィルターパイプラインを有効にすると、ユーザーからの受信メッセージ(または「インレット」)がフィルターに渡され、処理されます。フィルターはメッセージに対して希望するアクションを実行した後、LLMモデルにチャット完了をリクエストします。最後に、フィルターは送信されるLLMメッセージ(または「アウトレット」)に対して後処理を行い、それをユーザーに送信します。