TensorZero 用户界面部署指南
TensorZero UI是一个自托管的Web应用程序,通过提供可观测性和优化等功能,简化了TensorZero的使用流程。开始使用TensorZero UI非常简单。
设置
要使用TensorZero界面,您只需提供ClickHouse数据库URL(TENSORZERO_CLICKHOUSE_URL
)和TensorZero网关URL(TENSORZERO_GATEWAY_URL
)。
可选地,您还可以提供用于微调API的凭据。
微调凭证
TensorZero UI与OpenAI等模型提供商集成,以简化微调等工作流程。 要使用这些功能,您需要将相关模型提供商的凭据设置为环境变量。 如果您不使用这些提供商的微调功能,则无需提供凭据。
支持的微调服务提供商及其所需的凭证(环境变量)如下:
服务提供商 | 所需凭证 |
---|---|
Fireworks AI | FIREWORKS_ACCOUNT_ID FIREWORKS_API_KEY |
OpenAI | OPENAI_API_KEY |
我们计划在不久的将来增加对更多微调服务提供商的支持。
部署
TensorZero UI 可在 Docker Hub 上获取,镜像名为 tensorzero/ui
。
Running with Docker Compose (Recommended)
您可以通过Docker Compose轻松运行TensorZero用户界面:
services: ui: image: tensorzero/ui # Mount your configuration folder (e.g. tensorzero.toml) to /app/config volumes: - ./config:/app/config:ro # Add your environment variables the .env file env_file: - ${ENV_FILE:-.env} # Publish the UI to port 4000 ports: - "4000:4000" restart: unless-stopped
请确保创建一个包含相关环境变量的.env
文件。
更多详情,请参阅GitHub仓库中的示例文件docker-compose.yml
。
Running with Docker
或者,您可以通过以下命令直接启动用户界面:
docker run \ --volume ./config:/app/config:ro \ --env-file ./.env \ --publish 4000:4000 \ tensorzero/ui
请确保创建一个包含相关环境变量的.env
文件。
Building from source
或者,您也可以从源代码构建用户界面。 详情请参阅我们的GitHub仓库。