为大模型提供跨会话长期记忆的 API 服务
大模型受上下文窗口限制,跨会话无法保留信息。记忆库自动从对话中提取关键信息并持久化存储,在后续对话中基于语义检索相关记忆并注入上下文,使智能体持续理解用户偏好和历史信息。
记忆库提供开放的 API 接口,可接入任意应用,也支持多应用共享同一记忆库。
记忆片段适用于动态事件信息,用户画像适用于固定属性。两者可同时使用。
两种记忆内容
| 类型 | 说明 | 示例 |
|---|---|---|
| 记忆片段 | 从对话中自动提取的关键事件和信息 | "用户每天上午 9 点需要喝水提醒" |
| 用户画像 | 基于自定义模板提取的结构化属性 | 年龄 28、职业工程师、爱好足球 |
工作原理
使用流程
- 获取 API Key,创建或使用默认记忆库
- 每轮对话结束后,调用
AddMemory写入记忆 - 在控制台查看和检索记忆,或调用
SearchMemory在应用中检索 - 将检索结果注入 Prompt,实现个性化回答