Skip to main content

数据隐私与安全

安全措施

LiteLLM 云

  • 我们使用您的 LITELLM_MASTER_KEY 对所有存储的数据进行加密,并在传输过程中使用 TLS 加密。
  • 我们的数据库和应用程序运行在 GCP、AWS 基础设施上,部分由 NeonDB 管理。
    • 美国数据区域:北加利福尼亚(AWS/GCP us-west-1)和弗吉尼亚(AWS us-east-1
    • 欧盟数据区域:德国/法兰克福(AWS/GCP eu-central-1
  • 所有用户可以通过 OAuth 2.0 使用 Google、Okta、Microsoft、KeyCloak 进行单点登录(SSO)。
  • 审计日志及保留策略
  • 控制可以访问您的云 LiteLLM 实例的允许 IP 地址

如有关于安全问题的咨询,请通过 support@berri.ai 联系我们。

自托管实例 LiteLLM

  • 自托管时,LiteLLM 服务器不会存储任何数据或遥测信息
  • 有关安装和配置,请参阅:自托管指南
  • 遥测 自托管 LiteLLM 时,我们不运行任何遥测

如有关于安全问题的咨询,请通过 support@berri.ai 联系我们。

LiteLLM 云支持的数据区域

LiteLLM 支持以下数据区域:

  • 美国,北加利福尼亚(AWS/GCP us-west-1
  • 欧洲,德国法兰克福(AWS/GCP eu-central-1

所有数据、用户账户和基础设施在这两个区域之间完全隔离

个人数据收集

自托管 LiteLLM 用户:

  • 自托管我们的软件时,不会收集或传输任何个人数据到 LiteLLM 服务器。
  • 任何生成的或处理的数据完全保留在您自己的基础设施内。

LiteLLM 云用户:

  • LiteLLM 云跟踪 LLM 使用数据 - 我们不会访问或存储您的 API 请求或响应的消息/内容。您可以在此处查看跟踪的字段。

如何使用和共享个人数据

  • 只有代理管理员可以查看其使用数据,并且他们只能查看其组织的用户数据。
  • 代理管理员可以邀请其他用户/管理员到他们的服务器查看他们的使用数据。
  • LiteLLM 云不会将任何使用数据出售或分享给任何第三方。

自托管 LiteLLM 用户:

  • Cookie 数据保留在您自己的基础设施内。
  • LiteLLM 使用最少的 Cookie,仅用于允许 Proxy 用户访问 LiteLLM 管理界面。
  • 这些 Cookie 在您登录后存储在您的网络浏览器中。
  • 我们不使用 Cookie 进行广告、跟踪或任何超出维持登录会话的目的。
  • 唯一使用的 Cookie 是维护用户认证和应用界面会话管理的必要条件。
  • 会话 Cookie 在您关闭浏览器、注销或 24 小时后过期。
  • LiteLLM 不使用任何第三方 Cookie。
  • 管理界面访问 Cookie 以验证您的登录会话。
  • Cookie 存储为 JWT,系统中的其他部分无法访问。
  • 我们(LiteLLM)不会出于任何其他目的访问或共享此 Cookie 数据。

LiteLLM 云用户:

  • LiteLLM 使用最少的 Cookie,仅用于允许 Proxy 用户访问 LiteLLM 管理界面。
  • 这些 Cookie 在您登录后存储在您的网络浏览器中。
  • 我们不使用 Cookie 进行广告、跟踪或任何超出维持登录会话的目的。
  • 唯一使用的 Cookie 是维护用户认证和应用界面会话管理的必要条件。
  • 会话 Cookie 在您关闭浏览器、注销或 24 小时后过期。
  • LiteLLM 不使用任何第三方 Cookie。
  • 管理界面访问 Cookie 以验证您的登录会话。
  • Cookie 存储为 JWT,系统中的其他部分无法访问。
  • 我们(LiteLLM)不会出于任何其他目的访问或共享此 Cookie 数据。

安全漏洞报告指南

我们重视安全社区在保护我们的系统和用户方面的作用。如需报告安全漏洞:

  • 通过 support@berri.ai 发送详细信息
  • 包括重现问题的步骤
  • 提供任何相关的额外信息

我们将及时审查所有报告。请注意,我们目前不提供漏洞赏金计划。

法律/合规常见问题

采购选项

  1. 发票
  2. AWS 市场
  3. Azure 市场

供应商信息

法律实体名称:Berrie AI 公司

公司电话号码:7708783106

公司员工数量:2

安全团队员工数量:2

安全事件联系邮箱:krrish@berri.ai

一般安全相关问题联系邮箱:krrish@berri.ai

供应商是否经过审计/认证?目前正在从 Drata 进行 SOC-2 认证

是否实施了信息安全管理系统?是 - CodeQL 关键事件的日志记录——认证、创建、更新变更是否发生?是的 - 我们有审计日志

供应商是否建立了网络安全事件管理程序?没有

不适用 - LiteLLM 是自托管的,这是托管代理的团队的责任。我们确实提供了警报监控工具来协助这一点。

供应商是否有漏洞披露政策?是的

供应商是否进行漏洞扫描?没有

签名者姓名:Krish Amit Dholakia

签名者邮箱:krrish@berri.ai

优云智算