跳转到内容

追踪与调试

调试和追踪应用程序的运行是理解和优化它的关键。LlamaIndex提供了多种实现方式。

查看应用程序运行情况的最简单方法是启用调试日志记录。这可以在应用程序的任何位置通过以下方式实现:

import logging
import sys
logging.basicConfig(stream=sys.stdout, level=logging.DEBUG)
logging.getLogger().addHandler(logging.StreamHandler(stream=sys.stdout))

LlamaIndex 提供回调功能,用于帮助调试、追踪和跟踪库的内部运作。通过回调管理器,可以根据需要添加任意数量的回调函数。

除了记录与事件相关的数据外,您还可以追踪每个事件的持续时间和发生次数。

此外,还会记录事件追踪图,回调函数可以随意使用这些数据。例如,默认情况下,LlamaDebugHandler 会在大多数操作后打印事件追踪记录。

你可以像这样获取一个简单的回调处理器:

import llama_index.core
llama_index.core.set_global_handler("simple")

您也可以学习如何构建自定义回调处理器

LlamaIndex 提供一键可观测性功能,使您能够在生产环境中构建规范的LLM应用程序。

此功能允许您将LlamaIndex库与我们合作伙伴提供的强大可观测性/评估工具无缝集成。只需配置一次变量,您就能实现以下功能:

  • 查看LLM/提示词输入输出
  • 确保任何组件(LLMs、嵌入)的输出符合预期表现
  • 查看索引和查询的调用轨迹

要了解更多信息,请查阅我们的可观测性文档