对比：TensorZero 与 DSPy
TensorZero和DSPy在LLM生态系统中发挥着不同但互补的作用。 TensorZero是一个专注于生产应用和优化的全栈LLM工程平台，而DSPy是一个通过模块化提示编程语言模型的框架。 通过同时使用DSPy和TensorZero，您可以获得两者的最佳优势！
相似之处
-
大语言模型优化。 TensorZero和DSPy都专注于大语言模型优化，但采用的方式不同。 DSPy侧重于自动提示工程，而TensorZero提供了一套完整的工具来优化大语言模型系统（包括提示、模型和推理策略）。
-
大语言模型编程抽象层。 TensorZero和DSPy都提供了结构化操作大语言模型的抽象层，超越了原始提示方式，转向更易维护的解决方案。
→ TensorZero的提示模板与模式 -
自动化提示工程。 TensorZero实现了MIPROv2算法，这是DSPy推荐的自动化提示工程算法。 MIPROv2能够联合优化提示中的指令和上下文示例。
→ 教程：使用MIPRO进行自动化提示工程
关键差异
TensorZero
-
生产基础设施。 TensorZero 提供完整的生产基础设施，包括可观测性、优化、评估和实验能力。 DSPy 专注于开发阶段和提示编程模式。
-
模型优化。 TensorZero 提供模型优化工具，包括微调和RLHF。 DSPy 主要专注于自动化提示工程。
→ Optimization Recipes with TensorZero -
推理时优化。 TensorZero提供动态上下文学习等推理时优化功能。 DSPy则专注于离线优化策略(如静态上下文学习)。
→ Inference-Time Optimizations with TensorZero
DSPy
-
高级自动化提示工程。 DSPy为大型语言模型提供复杂的自动化提示工程工具，如远程提示器、递归推理和自我改进循环。 TensorZero本身不提供这些提示优化功能——您需要结合使用DSPy等工具来补充。
→ 提升数学推理能力——结合TensorZero与DSPy -
轻量级设计。 DSPy是一个专注于LLM编程模式的轻量级框架，特别是在研发阶段。 TensorZero则是一个更全面的平台，提供覆盖端到端LLM工程工作流的额外基础设施组件。
结合TensorZero与DSPy
你可以通过同时使用DSPy和TensorZero来获得两全其美的效果！
TensorZero提供了多种预置的优化方案，涵盖常见的LLM工程工作流，如监督式微调和RLHF。 但您也可以轻松创建自己的优化方案和工作流。 本示例展示如何使用DSPy等工具来优化TensorZero函数。