Skip to main content
Version: DEV

配置模型API密钥

RAGFlow 需要 API 密钥才能与在线 AI 模型进行交互。本指南提供了有关在 RAGFlow 中设置模型 API 密钥的信息。

获取模型API密钥

RAGFlow 支持大多数主流的大型语言模型(LLMs)。请参考支持的模型以获取完整的支持模型列表。您需要在线申请您的模型API密钥。请注意,大多数LLM提供商为新创建的账户提供试用额度,这些额度将在几个月后过期,或者提供一定数量的免费配额。

note

如果您发现您的在线LLM不在列表中,请不要灰心。列表正在扩展,您可以向我们提交功能请求!另外,如果您有自定义或本地部署的模型,您可以使用Ollama、Xinference或LocalAI将它们绑定到RAGFlow

配置模型API密钥

你有两种配置模型API密钥的选项:

  • 在启动RAGFlow之前,在service_conf.yaml.template中进行配置。
  • 登录RAGFlow后,在模型提供者页面上进行配置。

在启动RAGFlow之前配置模型API密钥

  1. 导航到 ./docker/ragflow

  2. 查找条目 user_default_llm:

    • 使用您选择的LLM更新factory
    • api_key 更新为你的。
    • 如果您使用代理连接到远程服务,请更新 base_url
  3. 重启系统以使更改生效。

  4. 登录RAGFlow。

    登录RAGFlow后,您将在模型提供者页面的已添加模型下找到您选择的模型。

登录RAGFlow后配置模型API密钥

WARNING

登录RAGFlow后,通过service_conf.yaml.template文件配置您的模型API密钥将不再生效。

登录RAGFlow后,您只能在模型提供商页面上配置API Key:

  1. 点击页面右上角的您的logo > 模型提供者
  2. 待添加模型下找到您的模型卡片,并点击添加模型add model
  3. 粘贴您的模型API密钥。
  4. 如果您使用代理连接到远程服务,请填写您的基本URL。
  5. 点击确定以确认您的更改。
note

稍后更新现有模型的API密钥: update api key