配置模型API密钥
RAGFlow 需要 API 密钥才能与在线 AI 模型进行交互。本指南提供了有关在 RAGFlow 中设置模型 API 密钥的信息。
获取模型API密钥
RAGFlow 支持大多数主流的大型语言模型(LLMs)。请参考支持的模型以获取完整的支持模型列表。您需要在线申请您的模型API密钥。请注意,大多数LLM提供商为新创建的账户提供试用额度,这些额度将在几个月后过期,或者提供一定数量的免费配额。
note
如果您发现您的在线LLM不在列表中,请不要灰心。列表正在扩展,您可以向我们提交功能请求!另外,如果您有自定义或本地部署的模型,您可以使用Ollama、Xinference或LocalAI将它们绑定到RAGFlow。
配置模型API密钥
你有两种配置模型API密钥的选项:
- 在启动RAGFlow之前,在service_conf.yaml.template中进行配置。
- 登录RAGFlow后,在模型提供者页面上进行配置。
在启动RAGFlow之前配置模型API密钥
-
导航到 ./docker/ragflow。
-
查找条目 user_default_llm:
- 使用您选择的LLM更新
factory
。 - 将
api_key
更新为你的。 - 如果您使用代理连接到远程服务,请更新
base_url
。
- 使用您选择的LLM更新
-
重启系统以使更改生效。
-
登录RAGFlow。
登录RAGFlow后,您将在模型提供者页面的已添加模型下找到您选择的模型。
登录RAGFlow后配置模型API密钥
WARNING
登录RAGFlow后,通过service_conf.yaml.template文件配置您的模型API密钥将不再生效。
登录RAGFlow后,您只能在模型提供商页面上配置API Key:
- 点击页面右上角的您的logo > 模型提供者。
- 在待添加模型下找到您的模型卡片,并点击添加模型:
- 粘贴您的模型API密钥。
- 如果您使用代理连接到远程服务,请填写您的基本URL。
- 点击确定以确认您的更改。
note
稍后更新现有模型的API密钥: