跳转到内容

使用 TruLens 进行评估与追踪

本页面介绍如何使用 TruLens 来评估和追踪基于 Llama-Index 构建的 LLM 应用程序。

TruLens 是一个开源软件包,为基于大语言模型(LLM)的应用程序提供检测和评估工具。这包括相关性、情感等多方面的反馈函数评估,以及包含成本和延迟的深度追踪功能。

TruLens Architecture

在迭代LLM应用程序的新版本时,您可以比较它们在所有已设置的不同质量指标上的表现。您还可以在记录级别查看评估结果,并探索每条记录的应用程序元数据。

添加 TruLens 很简单,只需从 pypi 安装即可!

Terminal window
pip install trulens-eval
from trulens_eval import TruLlama

llama_index_quickstart.ipynb

Open In Colab