OpenLIT

OpenLIT 是一个基于 OpenTelemetry 的 LLM 应用可观测性工具，包含 OpenTelemetry 自动检测功能，用于监控 Qdrant 并提供改进数据库操作和应用性能的洞察。

本页面假设您使用的是qdrant-client版本1.7.3或更高版本。

用法

第一步：安装 OpenLIT

打开你的命令行或终端并运行：

pip install openlit

步骤2：在您的应用程序中初始化OpenLIT

将OpenLIT集成到LLM应用程序中非常简单，只需两行代码：

import openlit

openlit.init()

OpenLIT 默认将跟踪信息发送到您的控制台。要将遥测数据转发到 HTTP OTLP 端点，请配置 otlp_endpoint 参数或 OTEL_EXPORTER_OTLP_ENDPOINT 环境变量。

对于需要身份验证的OpenTelemetry后端，使用otlp_headers参数或OTEL_EXPORTER_OTLP_HEADERS环境变量并提供所需的值。

进一步阅读

随着OpenLIT现在收集的LLM可观测性数据，下一步是可视化和分析这些数据，以获取Qdrant的性能、行为洞察，并识别改进的领域。

要开始在OpenLIT UI中探索您的LLM应用程序的性能数据，请参阅快速入门指南。

如果您想将生成的指标和跟踪集成并发送到您现有的可观测性工具，如Promethues+Jaeger、Grafana等，请参阅OpenLIT连接的官方文档以获取详细说明。