Agent Memory with Zep
Zep 是一个面向初创企业和企业的代理应用长期记忆服务。通过 Zep,您可以构建个性化、准确且可直接投入生产的代理应用。
Zep的记忆不断从与用户的交互和你不断变化的业务数据中学习事实。通过仅需两个API调用,你可以将聊天历史持久化到Zep,并召回与你的代理状态相关的事实。
Zep 由一个时态知识图谱驱动,该图谱允许随着事实的变化进行推理。结合语义和图搜索,可以实现准确且低延迟的事实检索。
注册 Zep Cloud 或访问 Zep Community Edition Repo。
功能 | 描述 |
---|---|
💬 捕捉详细的对话上下文 | Zep基于知识图谱的记忆捕捉了情节、语义和时间上下文 |
🗄️ 业务数据也是上下文 | Zep能够从JSON和非结构化文本中提取事实 |
⚙️ 为您的业务量身定制 | 事实评级和其他工具允许您为您的使用场景微调检索 |
⚡️ 即时记忆检索 | 在100毫秒内检索相关事实 |
🔐 合规性与安全性 | 用户隐私管理,SOC 2 Type II认证,以及其他控制措施 |
🖼️ 框架无关且面向未来 | 与AutoGen或任何其他框架一起使用,无论是现在还是将来 |
Zep的工作原理
- 在每次用户交互或代理事件期间向Zep添加聊天消息或数据工件。
- Zep 智能地将新信息整合到用户的(或用户组的)知识图谱中,根据需要更新现有上下文。
- 从Zep中检索相关事实以用于后续的交互或事件。
Zep的时间知识图谱维护了关于事实的上下文信息,使得能够推理状态变化并提供数据来源的洞察。每个事实包括valid_at
和invalid_at
日期,使得代理能够跟踪用户偏好、特征或环境的变化。
Zep 速度很快
获取事实简单且非常快速。与其他内存解决方案不同,Zep不使用代理来确保事实的相关性。它异步预计算事实、实体摘要和其他工件。对于本地使用,检索速度主要取决于你的嵌入服务的性能。
Zep 支持多种数据类型
您可以向 Zep 添加各种数据工件:
- 添加聊天历史消息。
- JSON和非结构化文本的摄取。
Zep支持聊天会话、用户和群组级别的图表。群组图表允许捕捉组织知识。
入门指南
Zep云
-
注册 Zep Cloud 并创建一个 Project API Key。
-
安装其中一个Zep Python、TypeScript或Go SDK。以下显示的是Python的安装指令。
pip install zep-cloud
- 初始化客户端
import os
from zep_cloud.client import AsyncZep
API_KEY = os.environ.get('ZEP_API_KEY')
client = AsyncZep(
api_key=API_KEY,
)
- 查看 Zep 和 Autogen notebook 示例 以了解代理构建的最佳实践。