在本地调试你的代码#
AutoGen 支持使用 OpenTelemetry 来检测您的代码。这样您就可以从代码中收集跟踪信息和日志,并将它们发送到您选择的后端。
在调试时,您可以使用本地后端,例如Aspire或Jaeger。在本指南中,我们将使用Aspire作为示例。
设置Aspire#
按照此处的说明设置Aspire为独立模式。这需要您的机器上安装Docker。
为你的代码添加工具支持#
一旦你设置好了仪表盘,现在就是发送追踪和日志的问题了。你可以按照遥测指南中的步骤来设置opentelemetry sdk和exporter。
在使用Aspire Dashboard运行之后,您应该会在代码运行时看到跟踪信息和日志出现在仪表板中。
使用Open AI观察LLM调用#
如果您使用的是Open AI包,您可以通过为该库设置opentelemetry来观察LLM调用。在这个示例中,我们使用了opentelemetry-instrumentation-openai。
安装包:
pip install opentelemetry-instrumentation-openai
启用检测:
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
OpenAIInstrumentor().instrument()
现在运行你的代码将会发送包含LLM调用的跟踪信息到你的遥测后端(在我们的案例中是Aspire)。