服务配置

单个LlamaCloud服务可根据您的具体需求进行配置。本页将介绍每项服务的不同配置选项。

在撰写本文时，唯一的全局配置是针对外部依赖项的。更多信息请参阅数据库与队列页面。

Qdrant 是一个流行的向量数据库，用于存储和检索嵌入向量。用户可以按项目逐个配置 Qdrant 作为数据接收器，或者如果用户愿意，也可以将其配置为在所有项目和组织中作为数据接收器使用。对于后者，可以设置以下配置：

# basic example
qdrant:
  enabled: true
  url: "http://qdrant:6333"
  apiKey: <QDRANT-API-KEY>

# or, if you prefer to use an existing secret
qdrant:
  enabled: true
  url: "http://qdrant:6333"
  secret: "qdrant-secret"

有多个配置项可以设置，用于修改作业工作器处理作业执行的方式。

这些设置修改并发作业在作业工作节点之间的分配方式。主要用途包括：

1. 防止出现嘈杂邻居问题，即单个用户可能淹没作业工作者，从而导致其他用户资源匮乏
2. 防止外部资源（如Mongo、嵌入API、向量数据库等）因过多请求而过载

• maxJobsInExecutionPerJobType: 此设置定义了用户在每个作业类型下可同时运行的最大作业数量。作业运行器使用该设置来防止单个用户对系统造成过载。

  • 将此设置为0以禁用此并发检查。

• maxIndexJobsInExecution: 此配置指定单个流水线允许并发执行的摄取（索引）作业的最大数量。该配置适用于处理文档摄取和索引操作的流水线，以控制资源使用。

  • 将此设置为0以禁用此并发检查。

• maxDocumentIngestionJobsInExecution: 此参数限制用户可同时执行的文档摄取任务数量。文档摄取通常需要大量资源，因此应保持相对较低的值以避免系统过载。

  • 将此设置为0以禁用此并发检查。

# example values.yaml for high throughput
config:
  jobs:
    maxJobsInExecutionPerJobType: 25
    maxIndexJobsInExecution: 0
    maxDocumentIngestionJobsInExecution: 10

这些设置控制由作业工作者服务处理的作业的执行超时与数据处理限制：

• defaultTransformDocumentTimeoutSeconds: 此设置定义了文档转换作业的默认超时时间（以秒为单位）。文档转换可能占用大量资源，根据文档大小和复杂程度，可能需要较长时间。

  • 默认值为 240（4分钟）。

• transformEmbeddingCharLimit: 此配置指定单次转换嵌入操作中可处理的最大字符数。这有助于防止内存问题，并在处理大型文档时确保性能稳定。

  • 默认值为 11520000（1152万个字符）。

# example values.yaml with custom timeout and limits
config:
  jobs:
    defaultTransformDocumentTimeoutSeconds: "7200"  # 2 hours
    transformEmbeddingCharLimit: "2000000"  # 2 million characters

注意：这些配置值必须作为带引号的字符串提供，以防止YAML解析大数值时出现问题。

• maxQueueConcurrency: 此配置用于设置LlamaParse服务能够并发处理的最大任务数量。它有助于使服务能够高效处理大量任务。数值越高，将消耗更多资源，请谨慎设置。
  • 默认值为 3。

# example values.yaml for high throughput
config:
  parse:
    maxQueueConcurrency: 10