分类组件
该组件用于对用户输入进行分类并相应地应用策略。
Categorize 组件通常是 Interact 组件的下游。
场景
当您需要LLM帮助识别用户意图并应用适当的处理策略时,分类组件是必不可少的。
配置
输入
Categorize 组件依赖于输入变量来指定其数据输入(查询)。在Input部分点击+ 添加变量以添加所需的输入变量。输入变量有两种类型:Reference 和 Text。
- 参考: 使用组件的输出或用户输入作为数据源。您需要从下拉菜单中选择:
- 在组件输出下的组件ID,或
- 在开始输入下的全局变量,该变量在开始组件中定义。
- 文本: 使用固定文本作为查询。您需要输入静态文本。
模型
点击Model的下拉菜单以显示模型配置窗口。
- Model: 使用的聊天模型。
- 确保在Model providers页面上正确设置了聊天模型。
- 您可以为不同的组件使用不同的模型,以增加灵活性或提高整体性能。
- 自由度: 一个快捷方式,用于设置温度、Top P、存在惩罚和频率惩罚,表示模型的自由度水平。
此参数有三个选项:- 即兴: 产生更具创意的响应。
- 精确: (默认) 产生更保守的响应。
- 平衡: 介于即兴和精确之间的中间地带。
- 温度: 模型输出的随机性水平。
默认值为0.1。- 较低的值会导致更确定和可预测的输出。
- 较高的值会导致更具创造性和多样化的输出。
- 温度为零时,相同的提示会产生相同的输出。
- Top P: 核心采样。
- 通过设置阈值P并将采样限制在累积概率超过P的标记上,减少生成重复或不自然文本的可能性。
- 默认值为0.3。
- Presence penalty: 鼓励模型在响应中包含更多样化的标记。
- 较高的presence penalty值会使模型更有可能生成尚未包含在生成文本中的标记。
- 默认值为0.4。
- 频率惩罚: 阻止模型在生成的文本中过于频繁地重复相同的单词或短语。
- 较高的频率惩罚值会使模型在使用重复标记时更加保守。
- 默认值为0.7。
- 最大令牌数: 设置模型输出的最大长度,以令牌数量衡量。
- 默认值为512。
- 如果禁用,您将取消最大令牌限制,允许模型决定其响应中的令牌数量。
NOTE
- 不必对所有组件都坚持使用相同的模型。如果某个特定模型在特定任务上表现不佳,考虑使用不同的模型。
- 如果您不确定Temperature、Top P、Presence penalty和Frequency penalty背后的机制,您可以直接选择Freedom的三个选项之一。
消息窗口大小
一个整数,指定要输入到LLM中的先前对话轮数。例如,如果设置为12,则最后12轮对话的标记将被输入到LLM中。此功能会消耗额外的标记。
默认为1。
IMPORTANT
此功能仅用于多轮对话。如果您的Categorize组件不是多轮对话的一部分(即,它不在循环中),请保持此字段不变。
分类名称
一个分类组件必须至少有两个类别。此字段设置类别的名称。点击+ 添加项目以包含所需的类别。
NOTE
您会注意到类别名称是自动填充的。不用担心。每个类别在创建时都会被分配一个随机名称。您可以随意将其更改为LLM可以理解的名称。
描述
此类别的描述。
您可以输入可能帮助LLM确定哪些输入属于此类别的标准、情况或信息。
示例
可能有助于LLM确定哪些输入属于此类别的其他示例。
IMPORTANT
如果你想让人工智能模型将特定案例分类到这一类别,示例比描述更有帮助。
至
指定此类别的下游组件。
- 一旦你指定了下游组件的ID,就会在此类别和相应组件之间建立链接。
- 如果您手动将此类别链接到画布上的下游组件,该组件的ID将自动填充。
示例
您可以探索我们的客户服务代理模板,其中Categorize组件(组件ID:Question Categorize)定义了四个类别,并从Interact组件(组件ID:Interface)接收数据输入:
- 点击页面顶部中央的Agent标签以访问Agent页面。
- 点击页面右上角的+ 创建代理以打开代理模板页面。
- 在代理模板页面上,将鼠标悬停在解释器卡片上,然后点击使用此模板。
- 为你的新代理命名,然后点击确定进入工作流编辑器。