概述

​

记忆系统架构

​

短期记忆(会话记忆)

• 易失性或持久性 - 可选择内存或云存储
• 基于会话 - 为不同对话提供隔离上下文
• Token 感知 - 自动管理 LLM 上下文窗口
• 上下文工程 - 内置压缩和摘要功能,用于长对话(了解更多)
• 快速访问 - 针对最近对话历史优化

• 维护会话内的对话上下文
• 管理多轮对话
• 跟踪工具调用历史
• 处理并发用户对话

​

长期记忆(知识记忆)

• 持久性 - 信息跨会话保存
• 语义搜索 - 基于向量的相似度匹配
• 智能提取 - 从对话中自动提取记忆
• 知识整合 - 去重和合并相关信息

• 记住用户偏好和事实
• 随时间构建用户档案
• 存储领域知识
• 个性化 Agent 响应

​

上下文工程

​

三层管理策略

1. 正常操作(0-80% 阈值): 完整详细地存储所有消息
2. 可逆压缩(80-95% 阈值): 压缩旧消息,同时保留重建能力
3. 结构化摘要(95%+ 阈值): 创建结构化摘要,大幅减少 token 数量

​

主要优势

• 无限对话长度: 对话持续时间没有实际限制
• 保持质量: 即使在长对话中也能保持高性能
• 信息保留: 通过智能管理保留关键上下文
• 成本效益: 大幅减少 token 使用和相关成本

​

记忆工作流

​

处理流程

1. 短期检索: 从对话历史中获取相关上下文
2. 长期召回: 语义搜索用户档案和重要事实
3. 上下文集成: 结合两个记忆层获得全面上下文
4. 响应生成: LLM 使用完整上下文生成响应
5. 智能提取: 自动识别并存储重要信息
6. 持续学习: 持续积累和优化用户知识

​

记忆实现

​

短期记忆实现

​

长期记忆实现

​

记忆对比

​

短期记忆 vs 长期记忆

​

实现对比

​

存储后端指南

​

快速概览

​

选择合适的后端

​

按使用场景

• 开发/测试: InMemoryMemory
• 企业生产环境: TDAIMemory、MySQLMemory
• Serverless 应用: CloudBaseMemory、TDAIMemory
• 文档存储: MongoDBMemory、CloudBaseMemory
• 多数据库: TypeORMMemory

​

快速入门示例

// 开发
const memory = new InMemoryMemory({ sessionId: 'dev' });

// 生产云环境
const memory = new TDAIMemory({
  sessionId: 'user-123',
  clientOptions: { apiKey: process.env.TDAI_API_KEY }
});

// 自托管 MySQL
const memory = MySQLMemory.create({
  host: 'localhost',
  database: 'agkit',
  sessionId: 'user-123'
});

​

核心概念

​

会话管理

# 为不同用户创建隔离的会话
alice_session = 'user-alice-session-1'
bob_session = 'user-bob-session-1'

# 每个会话都有独立的记忆
await memory.add(session_id=alice_session, message=message, state=state)
await memory.add(session_id=bob_session, message=message, state=state)

​

Token 管理

# 在 token 限制内检索事件
events = await memory.list(
    max_tokens=4000,  # 适合 GPT-4 上下文
    session_id='session-123'
)

​

记忆策略

# 不同的记忆策略
await long_term_memory.record({
    'strategy': 'facts',        # 客观信息
    'content': 'User graduated from MIT'
})

await long_term_memory.record({
    'strategy': 'preferences',  # 用户喜好/厌恶
    'content': 'User prefers dark mode'
})

​

语义搜索

# 搜索所有记忆
results = await long_term_memory.semantic_search(
    'What are the user\'s food preferences?'
)
# 返回: "User loves Italian food", "User is allergic to shellfish", 等等

​

开始使用

​

下一步