示例YAML文件指南

image.png

我们首先将它们分为英文和韩文两类。

Korean仅包含支持韩语的模块，例如针对使用LLM的模块提供韩语提示和韩语重排器。

我们将示例YAML文件划分为三个主要部分。

image.png

我将根据每个文件夹中的full.yaml文件解释它是如何划分的。

GPU + API

image.png

  • API: 四个重排序模块，除嵌入模型和LLM外均使用API接口

  • GPU (recommend): 压缩器节点中的重排序模块和LongLLM Lingua模块，如果不使用GPU而仅使用CPU可能会耗费较长时间。

获取API密钥

  • JINA AI: 您可以在此获取API密钥

    export JINAAI_API_KEY=your_jina_api_key

  • Cohere: 您可以在此获取API密钥

    export COHERE_API_KEY=your_cohere_api_key

  • VoyageAI: 您可以在此获取API密钥

    export VOYAGE_API_KEY=your_voyageai_api_key

  • Mixbread AI: 您可以在此获取API密钥

    export MXBAI_API_KEY=your_mixedbread_api_key

GPU

这不包括四个Reranker模块，它们需要单独的API密钥才能使用。

image.png

非GPU版本

从所有选项中排除API和GPU推荐。

image.png

image.png

每个文件夹又进一步按完整版、半精简版、紧凑版甚至非GPU简易版进行分类。

完整版

image.png

半

从完整流程中排除Query Expansion节点

image.png

紧凑型

从Half中排除Passage Compressor节点

image.png

简单

这是Naive RAG的YAML配置文件，其流程为检索 → 提示生成器 → 生成器。

我之所以把它放在非GPU文件夹中，是因为这是唯一一个在非GPU环境下运行的节点。

image.png