追踪与调试
调试和追踪应用程序的运行是理解和优化它的关键。LlamaIndex提供了多种实现方式。
查看应用程序运行情况的最简单方法是启用调试日志记录。这可以在应用程序的任何位置通过以下方式实现:
import loggingimport sys
logging.basicConfig(stream=sys.stdout, level=logging.DEBUG)logging.getLogger().addHandler(logging.StreamHandler(stream=sys.stdout))LlamaIndex 提供回调功能,用于帮助调试、追踪和跟踪库的内部运作。通过回调管理器,可以根据需要添加任意数量的回调函数。
除了记录与事件相关的数据外,您还可以追踪每个事件的持续时间和发生次数。
此外,还会记录事件追踪图,回调函数可以随意使用这些数据。例如,默认情况下,LlamaDebugHandler 会在大多数操作后打印事件追踪记录。
你可以像这样获取一个简单的回调处理器:
import llama_index.core
llama_index.core.set_global_handler("simple")您也可以学习如何构建自定义回调处理器。
LlamaIndex 提供一键可观测性功能,使您能够在生产环境中构建规范的LLM应用程序。
此功能允许您将LlamaIndex库与我们合作伙伴提供的强大可观测性/评估工具无缝集成。只需配置一次变量,您就能实现以下功能:
- 查看LLM/提示词输入输出
- 确保任何组件(LLMs、嵌入)的输出符合预期表现
- 查看索引和查询的调用轨迹
要了解更多信息,请查阅我们的可观测性文档