企业版

针对需要SSO、用户管理和LiteLLM代理专业支持的公司

在您的VPC内部署托管的LiteLLM代理。

包含所有企业版功能。

查看AWS Marketplace列表

获取早期访问权限

这涵盖了：

• 企业版功能
  • 安全
    • ✅ 管理员界面的SSO
    • ✅ 带有保留策略的审计日志
    • ✅ JWT认证
    • ✅ 控制可用的公共、私有路由（限制代理上的某些端点）
    • ✅ 密钥管理器 AWS密钥管理器、Google密钥管理器、Azure密钥
    • ✅ 基于IP地址的访问控制列表
    • ✅ 跟踪请求IP地址
    • ✅ 在传递端点上使用LiteLLM密钥/认证
    • ✅ 在请求上设置最大请求/文件大小
    • ✅ 强制LLM请求的必需参数（例如拒绝缺少["metadata"]["generation_name"]的请求）
  • 按项目自定义日志记录、防护栏、缓存
    • ✅ 基于团队的日志记录 - 允许每个团队使用他们自己的Langfuse项目/自定义回调
    • ✅ 为团队禁用日志记录 - 为团队/项目关闭所有日志记录（符合GDPR）
  • 通过虚拟密钥控制防护栏
  • 支出跟踪与数据导出
    • ✅ 跟踪自定义标签的支出
    • ✅ 将LLM日志导出到GCS存储桶
    • ✅ 获取每个团队、API密钥、客户的支出报告的API端点
  • Prometheus指标
    • ✅ Prometheus指标 - 请求数量、失败、LLM提供者故障
    • ✅ x-ratelimit-remaining-requests, x-ratelimit-remaining-tokens用于Prometheus上的LLM API
  • 自定义品牌
    • ✅ Swagger文档上的自定义品牌 + 路由
    • ✅ 公共模型中心
    • ✅ 自定义电子邮件品牌
• ✅ 功能优先级
• ✅ 自定义集成
• ✅ 专业支持 - 专用discord + slack

常见问题​

专业支持涵盖哪些主题，你们提供哪些SLA？​

专业支持可以协助处理LLM/提供者集成、部署、升级管理和LLM提供者故障排除。我们无法解决您自己的基础设施相关问题，但我们会指导您修复它们。

• Sev0问题1小时内
• Sev1问题6小时内
• Sev2-Sev3问题24小时内（周一至周六上午7点至晚上7点PT）

我们可以根据您的需求和问题的严重性提供定制的SLA

自我管理企业版的成本是多少？​

自我管理企业版部署需要我们的团队了解您的确切需求。联系我们了解更多信息

企业版许可证的部署是如何进行的？​

您只需部署我们的docker镜像并获取企业版许可证密钥添加到您的环境中，以解锁附加功能（SSO、Prometheus指标等）。

LITELLM_LICENSE="eyJ..."

不会离开您的环境。