提示
提示大语言模型是任何大语言模型应用的基本单元。你可以完全围绕提示构建整个应用,或与其他模块(例如检索)协同构建RAG、智能体等更多功能。
LlamaIndex 支持LLM抽象和从简单到高级的提示抽象,使复杂的提示工作流程成为可能。
LlamaIndex 支持 40 多种大语言模型集成,涵盖从 OpenAI、Anthropic 等专有模型供应商到 Mistral、Ollama、Replicate 等开源模型/模型供应商。它提供全套工具来标准化常见大语言模型使用模式的接口,包括但不限于异步、流式传输、函数调用等功能。
这里是大型语言模型的完整模块指南。
LlamaIndex 拥有强大的提示抽象功能,能够涵盖与大型语言模型交互的所有常见模式。
这里是提示词的完整模块指南。
LlamaIndex 提供了强大的抽象机制,用于创建顺序提示链以及通用有向无环图,以便将提示与其他任意组件进行编排。这使您能够构建复杂的工作流,包括具备多跳查询理解层的检索增强生成系统,以及智能体。
这些流水线已与可观测性合作伙伴开箱即用地集成。