一体化嵌入式数据库
txtai 是一个一体化嵌入式数据库,适用于语义搜索、LLM 编排和语言模型工作流程。
嵌入式数据库是向量索引(稀疏和密集)、图网络和关系数据库的结合体。这使得向量搜索与 SQL、主题建模、检索增强生成(RAG)等成为可能。
嵌入式数据库可以独立存在,也可以作为大型语言模型(LLM)提示的强大知识源。
txtai 功能概述:
- 🔎 使用 SQL、对象存储、主题建模、图分析和多模态索引进行向量搜索
- 📄 为文本、文档、音频、图像和视频创建嵌入
- 💡 由语言模型驱动的管道,运行 LLM 提示、问答、标注、转录、翻译、摘要等
- ↪️️ 工作流程将管道连接在一起并聚合业务逻辑。txtai 处理可以是简单的微服务或多模型工作流程。
- ⚙️ 使用 Python 或 YAML 构建。API 绑定适用于 JavaScript、Java、Rust 和 Go。
- ☁️ 本地运行或通过容器编排扩展
txtai 使用 Python 3.9+、Hugging Face Transformers、Sentence Transformers 和 FastAPI 构建。txtai 采用 Apache 2.0 许可证开源。
对一种简单且安全的方式来运行托管的 txtai 应用程序感兴趣?那么加入 txtai.cloud 预览版了解更多信息。