LogProbs

logprobs是一种模式，其中LLMs会返回每个标记的概率。topLogProbs还会返回替代标记列表及其对数概率。这对于调试和理解模型行为非常有用。

• 参见 OpenAI Logprobs

Logprobs

您可以通过以下方式启用logprobs：

• 在运行命令中使用 logprobs 标志

npx genaiscript run ... --logprobs

• 在script元数据中添加logprobs标志

script({ logprobs: true, ...})

彩色输出

当启用logprobs时，cli会根据每个标记的概率对输出进行着色。 蓝色表示高概率，红色表示低概率。

这是一个在使用gpt-4o运行诗歌提示时logprobs的实际示例。

最高概率日志

您可以通过以下方式启用top-logprobs：

• 在运行命令中使用 top-logprobs 标志。它也会启用 logprobs。

npx genaiscript run ... --top-logprobs 4

• 在script元数据中添加topLogprobs标志

script({ topLogProbs: 4, ...})

彩色输出

当启用top-logprobs时，控制台窗口会使用备选标记的熵进行着色。

替代令牌

跟踪记录包含基于logprobs的彩色输出替代标记的渲染结果。