🛌 与 Amazon Bedrock 集成
本教程是社区贡献的内容,不受 Open WebUI 团队支持。它仅作为如何为您的特定用例自定义 Open WebUI 的示例。想要贡献?请查看贡献教程。
将 Open-WebUI 与 Amazon Bedrock 集成
在本教程中,我们将探索将 Open-WebUI 与 Amazon Bedrock 集成的最常见和最流行的方法之一。
前置条件
为了跟随本教程,您需要以下条件:
- 一个有效的 AWS 账户
- 一个有效的 AWS 访问密钥和秘密密钥
- 在 AWS 中启用 Bedrock 模型的 IAM 权限或已启用的模型
- 在您的系统上安装了 Docker
什么是 Amazon Bedrock
直接引自 AWS 官网:
“Amazon Bedrock 是一项完全托管的服务,通过单一 API 提供来自领先 AI 公司(例如 AI21 Labs、Anthropic、Cohere、Luma、Meta、Mistral AI、poolside(即将推出)、Stability AI 和 Amazon)的高性能基础模型(FMs)的选择,以及构建具有安全、隐私和负责任 AI 的生成式 AI 应用程序所需的广泛功能。通过使用 Amazon Bedrock,您可以轻松地根据您的使用场景试验和评估顶级 FMs,使用微调和检索增强生成(RAG)等技术使用您的数据进行私有化 定制,并构建使用企业系统和数据源执行任务的代理。由于 Amazon Bedrock 是无服务器的,您不需要管理任何基础设施,可以安全地将生成式 AI 功能集成和部署到您已经熟悉的 AWS 服务中。”
了解更多有关 Bedrock 的信息,请访问:Amazon Bedrock 官方页面
集成步骤
第一步:验证对 Amazon Bedrock 基础模型的访问
在我们可以与 Bedrock 集成之前,您首先需要验证是否至少有一个(最好多个)可用的基础模型的访问权限。截至编写本文(2025 年 2 月)时,有 47 个基础模型可供选择。您可以在下面的屏幕截图中看到,我可以访问多个模型。如果模型旁边显示“✅ 访问权限已授予”,那么您就知道可以访问该模型。如果您无法访问任何模型,在下一步中将会遇到错误。
AWS 提供了良好的文档来请求访问/启用这些模型:Amazon Bedrock 模型访问文档