在本地调试你的代码#

AutoGen 支持使用 OpenTelemetry 来检测您的代码。这样您就可以从代码中收集跟踪信息和日志,并将它们发送到您选择的后端。

在调试时,您可以使用本地后端,例如AspireJaeger。在本指南中,我们将使用Aspire作为示例。

设置Aspire#

按照此处的说明设置Aspire为独立模式。这需要您的机器上安装Docker。

为你的代码添加工具支持#

一旦你设置好了仪表盘,现在就是发送追踪和日志的问题了。你可以按照遥测指南中的步骤来设置opentelemetry sdk和exporter。

在使用Aspire Dashboard运行之后,您应该会在代码运行时看到跟踪信息和日志出现在仪表板中。

使用Open AI观察LLM调用#

如果您使用的是Open AI包,您可以通过为该库设置opentelemetry来观察LLM调用。在这个示例中,我们使用了opentelemetry-instrumentation-openai

安装包:

pip install opentelemetry-instrumentation-openai

启用检测:

from opentelemetry.instrumentation.openai import OpenAIInstrumentor

OpenAIInstrumentor().instrument()

现在运行你的代码将会发送包含LLM调用的跟踪信息到你的遥测后端(在我们的案例中是Aspire)。

Open AI Telemetry logs