跳至内容

API参考:辅助端点

TensorZero网关提供了多个用于监控和调试的辅助端点。

GET /metrics

TensorZero网关暴露了一个兼容Prometheus/metrics端点用于监控。

目前唯一可用的指标是request_count,它统计了向网关发出的成功请求数量。该指标同时报告推理请求和反馈请求的计数。

示例响应

GET /metrics
# ...
request_count{endpoint="inference",function_name="draft_email"} 10
request_count{endpoint="feedback",metric_name="draft_accepted"} 10
# ...

GET /status

/status 端点是一个简单的存活探针。如果网关正在运行,它将返回HTTP状态码200。

示例响应

获取 /status
{ "status": "ok" }

GET /health

/health 端点是一个简单的就绪探针,用于检查网关是否能与数据库通信。如果网关已准备好处理请求,它将返回HTTP状态码200。

示例响应

GET /health
{ "gateway": "ok", "clickhouse": "ok" }