跳过导航

TensorZero 用户界面部署指南

TensorZero UI是一个自托管的Web应用程序,通过提供可观测性和优化等功能,简化了TensorZero的使用流程。开始使用TensorZero UI非常简单。

设置

要使用TensorZero界面,您只需提供ClickHouse数据库URL(TENSORZERO_CLICKHOUSE_URL)和TensorZero网关URL(TENSORZERO_GATEWAY_URL)。 可选地,您还可以提供用于微调API的凭据。

微调凭证

TensorZero UI与OpenAI等模型提供商集成,以简化微调等工作流程。 要使用这些功能,您需要将相关模型提供商的凭据设置为环境变量。 如果您不使用这些提供商的微调功能,则无需提供凭据。

支持的微调服务提供商及其所需的凭证(环境变量)如下:

服务提供商所需凭证
Fireworks AIFIREWORKS_ACCOUNT_ID FIREWORKS_API_KEY
OpenAIOPENAI_API_KEY

我们计划在不久的将来增加对更多微调服务提供商的支持。

部署

TensorZero UI 可在 Docker Hub 上获取,镜像名为 tensorzero/ui

Running with Docker Compose (Recommended)

您可以通过Docker Compose轻松运行TensorZero用户界面:

services:
ui:
image: tensorzero/ui
# Mount your configuration folder (e.g. tensorzero.toml) to /app/config
volumes:
- ./config:/app/config:ro
# Add your environment variables the .env file
env_file:
- ${ENV_FILE:-.env}
# Publish the UI to port 4000
ports:
- "4000:4000"
restart: unless-stopped

请确保创建一个包含相关环境变量的.env文件。

更多详情,请参阅GitHub仓库中的示例文件docker-compose.yml

Running with Docker

或者,您可以通过以下命令直接启动用户界面:

终端窗口
docker run \
--volume ./config:/app/config:ro \
--env-file ./.env \
--publish 4000:4000 \
tensorzero/ui

请确保创建一个包含相关环境变量的.env文件。

Building from source

或者,您也可以从源代码构建用户界面。 详情请参阅我们的GitHub仓库