⚙️ 채팅 매개변수

Open WebUI 내에서 시스템 프롬프트와 고급 매개변수를 설정하는 데에는 채팅별, 모델별, 계정별 세 가지 레벨이 있습니다. 이 계층적 시스템은 유연성을 제공하면서 구조화된 관리와 통제를 유지합니다.

시스템 프롬프트 및 고급 매개변수 계층도

레벨	정의	수정 권한	오버라이드 가능성
채팅별	특정 채팅 인스턴스를 위한 시스템 프롬프트 및 고급 매개변수	사용자가 수정 가능하지만, 모델-specific 설정을 오버라이드할 수 없음	모델-specific 설정을 오버라이드할 수 없도록 제한됨
계정별	특정 사용자 계정을 위한 기본 시스템 프롬프트 및 고급 매개변수	사용자가 설정 가능하지만, 모델-specific 설정에 의해 오버라이드될 수 있음	사용자 설정이 모델-specific 설정에 의해 오버라이드 가능
모델별	특정 모델을 위한 기본 시스템 프롬프트 및 고급 매개변수	관리자가 설정 가능, 사용자는 수정 불가	관리자-specific 설정이 우선이며, 사용자 설정은 오버라이드될 수 있음

1. 채팅별:

• 설명: 채팅별 설정은 특정 채팅 인스턴스를 위해 구성된 시스템 프롬프트 및 고급 매개변수를 의미합니다. 이 설정은 현재 대화에만 적용되며, 미래의 채팅에는 영향을 미치지 않습니다.
• 설정 방법: 사용자는 Open WebUI의 오른쪽 사이드바 채팅 컨트롤 섹션에서 특정 채팅 인스턴스를 위해 시스템 프롬프트 및 고급 매개변수를 수정할 수 있습니다.
• 오버라이드 가능성: 사용자는 모델별(#2)로 관리자가 이미 설정한 시스템 프롬프트나 특정 고급 매개변수를 오버라이드할 수 없습니다. 이는 모델-specific 설정의 일관성과 준수를 보장합니다.

예시 사용 사례

채팅별:

사용자가 특정 대화를 위해 사용자 정의 시스템 프롬프트를 설정하려고 한다고 가정해봅시다. 사용자는 채팅 컨트롤 섹션에 접속하여 시스템 프롬프트 필드를 수정할 수 있습니다. 이 변경사항은 현재 채팅 세션에만 적용됩니다.

2. 계정별:

• 설명: 계정별 설정은 특정 사용자 계정을 위해 구성된 기본 시스템 프롬프트 및 고급 매개변수를 의미합니다. 사용자-specific 변경 사항은 하위 레벨 설정이 정의되지 않은 상황에서 대체 역할을 할 수 있습니다.
• 설정 방법: 사용자는 Open WebUI의 설정 메뉴의 일반 섹션에서 자신의 계정을 위해 시스템 프롬프트 및 고급 매개변수를 설정할 수 있습니다.
• 오버라이드 가능성: 사용자는 자신 계정의 시스템 프롬프트를 설정할 수 있으나, 관리자가 특정 모델에 대해 시스템 프롬프트나 특정 고급 매개변수를 설정한 경우 해당 매개변수는 여전히 오버라이드될 수 있다는 점을 인지해야 합니다.

예시 사용 사례

계정별:

사용자가 자신의 계정을 위해 시스템 프롬프트를 설정하려고 한다고 가정해봅시다. 설정 메뉴에 접속하여 시스템 프롬프트 필드를 수정하면 됩니다.

3. 모델별:

• 설명: 모델별 설정은 특정 모델을 위해 구성된 기본 시스템 프롬프트 및 고급 매개변수를 의미합니다. 이러한 설정은 해당 모델을 사용하는 모든 채팅 인스턴스에 적용됩니다.
• 설정 방법: 관리자는 Open WebUI의 워크스페이스 내 모델 섹션에서 특정 모델을 위해 기본 시스템 프롬프트 및 고급 매개변수를 설정할 수 있습니다.
• 오버라이드 가능성: 사용자 계정은 모델별(#3)로 설정된 시스템 프롬프트나 특정 고급 매개변수를 수정할 수 없습니다. 이러한 제한은 사용자가 기본 설정을 부적절하게 변경하는 것을 방지합니다.
• 컨텍스트 길이 보존: 관리자가 워크스페이스 섹션에서 특정 모델의 시스템 프롬프트나 특정 고급 매개변수를 수동으로 설정했을 경우, 해당 시스템 프롬프트나 수동으로 설정된 고급 매개변수는 일반 설정 또는 채팅 컨트롤 섹션에서 사용자 계정에 의해 오버라이드되거나 조정될 수 없습니다. 이는 일관성을 보장하고 사용자가 컨텍스트 길이 설정을 변경할 때 모델의 과도한 재로드를 방지합니다.
• 모델 우선 순위: 관리자가 워크스페이스 섹션에서 모델의 시스템 프롬프트나 특정 고급 매개변수 값을 미리 설정한 경우, 사용자 계정이 일반 설정 또는 채팅 컨트롤 섹션에서 수행한 컨텍스트 길이 변경 사항은 무시되며, 해당 모델에 대해 미리 구성된 값이 유지됩니다. 단, 관리자 계정에 의해 설정되지 않은 매개변수는 여전히 사용자 계정에 의해 계정별 또는 채팅별로 수동으로 조정될 수 있습니다.

예제 사용 사례

모델별 설정:

관리자가 특정 모델에 대한 기본 시스템 프롬프트를 설정하고자 하는 경우, 모델 섹션에 액세스하여 해당 모델의 시스템 프롬프트 필드를 수정하면 됩니다. 이 모델을 사용하는 모든 채팅 인스턴스는 자동으로 해당 모델의 시스템 프롬프트와 고급 매개변수를 사용하게 됩니다.

최대 유연성을 위해 시스템 프롬프트 설정 최적화

추가 팁

이 팁은 관리자 및 사용자 계정 모두에 적용됩니다. 시스템 프롬프트의 최대 유연성을 달성하려면 다음 설정을 고려할 것을 권장합니다:

• 주요 시스템 프롬프트(예: LLM에 정의적인 특성을 부여하는 설정)를 일반 설정의 시스템 프롬프트 필드에 지정하세요. 이렇게 하면 계정 수준에서 시스템 프롬프트가 설정되어 워크스페이스 섹션의 모델 내에서 별도의 조정 없이 모든 LLM에 시스템 프롬프트로 작동합니다.

• 보조 시스템 프롬프트(예: LLM에 특정 작업을 수행하도록 부여하는 설정)는 Chat Controls 사이드바(채팅별 설정) 또는 워크스페이스 섹션의 모델 섹션(모델별 설정) 내의 시스템 프롬프트 필드에 배치하도록 선택하세요. 관리자는 이를 직접 설정할 수 있습니다. 이를 통해 계정 수준 시스템 프롬프트가 Chat Controls에서 제공하는 채팅별 수준 시스템 프롬프트나 모델에서 제공하는 모델별 수준 시스템 프롬프트와 함께 작동할 수 있습니다.

• 관리자로서, 모델 섹션에서 모델별로 LLM 매개변수를 지정하여 최적의 유연성을 확보하십시오. 이러한 두 번째 수준의 시스템 프롬프트 모두에 대해 계정별 또는 채팅별 인스턴스에 필요한 조정을 최소화하고 유연성을 극대화하는 방식으로 설정하는 것이 중요합니다. 또한 관리자 계정 및 모든 사용자 계정에서 Chat Controls와 모델 섹션 내의 시스템 프롬프트가 LLM에 적용되는 우선 순위를 이해해야 합니다.