API参考:辅助端点
TensorZero网关提供了多个用于监控和调试的辅助端点。
GET /metrics
TensorZero网关暴露了一个兼容Prometheus的/metrics
端点用于监控。
目前唯一可用的指标是request_count
,它统计了向网关发出的成功请求数量。该指标同时报告推理请求和反馈请求的计数。
示例响应
# ...request_count{endpoint="inference",function_name="draft_email"} 10request_count{endpoint="feedback",metric_name="draft_accepted"} 10# ...
GET /status
/status
端点是一个简单的存活探针。如果网关正在运行,它将返回HTTP状态码200。
示例响应
{ "status": "ok" }
GET /health
/health
端点是一个简单的就绪探针,用于检查网关是否能与数据库通信。如果网关已准备好处理请求,它将返回HTTP状态码200。
示例响应
{ "gateway": "ok", "clickhouse": "ok" }