概述

Self-Hosting Documentation Access Granted

LlamaCloud通过不同的提供商接入方式支持多种LLM模型，为其文档解析、提取和AI功能提供支持。本节为您的自托管部署提供关于配置和选择不同模型提供商的指导。

支持的模型与提供商

模型系列	开发者直连 (简易设置)	企业云 (高级功能)
OpenAI GPT GPT-4o, GPT-4.1, GPT-5, GPT-5	OpenAI API	Azure OpenAI
Anthropic Claude Claude 4.0 Sonnet, Claude 3.5 Haiku, Claude 3 Opus	Anthropic API	AWS Bedrock
谷歌 Gemini Gemini 2.5 Pro, Gemini 2.5 Flash, Gemini 2.0 Flash	谷歌Gemini API	谷歌 Vertex AI

配置方法

外部密钥（推荐）

使用Kubernetes密钥配置LLM凭据，并在Helm值中引用它们：

config:
  llms:
    openai:
      secret: <your-openai-secret>
    anthropic:
      secret: <your-anthropic-secret>
    gemini:
      secret: <your-gemini-secret>
    azureOpenAi:
      secret: <your-azureOpenAi-secret>
    awsBedrock:
      secret: <your-bedrock-secret>
    googleVertexAi:
      secret: <your-vertex-secret>

Helm 值配置（旧版）

部分供应商支持在Helm值中直接配置（即将弃用）：

backend:
  config:
    openAiApiKey: "your-api-key"

后续步骤

选择您的大语言模型提供商并遵循详细的设置说明：

故障排除

验证步骤

配置完成后，通过以下方式验证您的设置：

使用 LlamaCloud 管理界面确认可用模型
使用简单的解析或提取任务进行测试

常见问题

模型不可用: 请查阅提供商文档了解您所在地区的模型可用性
认证失败：验证API密钥和权限
速率限制: 监控使用情况并实施适当的配额

概述

自托管文档访问