用途
Context Manager 是一个面向 AI 上下文与记忆管理的技能,定位为 AI 系统“记忆”方面的专家。它专注于向量数据库(RAG)、短期与长期记忆架构,以及上下文窗口优化,用于处理对话历史、RAG 记忆系统和 LLM 应用中的高效上下文利用。
主要能力
该技能覆盖以下方向:
- 设计 AI 记忆与上下文系统
- 优化上下文窗口使用
- 实现对话历史管理
- 为 AI 智能体构建长期记忆
- 管理 RAG 检索上下文
- 在保持质量的前提下减少 token 使用
- 设计多会话记忆持久化
使用方式
在以下情况调用该技能:设计 AI 记忆与上下文系统、优化上下文窗口使用、实现对话历史管理、为 AI 智能体构建长期记忆、在保持质量的同时减少 token 使用。
在以下情况不要调用:构建完整 RAG 流水线(改用 ai-engineer)、管理向量数据库(改用 data-engineer)、协调多个智能体(改用 agent-organizer)、训练嵌入模型(改用 ml-engineer)。
记忆类型选择决策框架
- 单轮对话 → 滑动窗口上下文
- 多会话用户 → 持久化记忆存储
- 知识密集型 → 带向量数据库的 RAG
- 任务导向 → 工作记忆 + 工具结果
- 长时运行智能体:情景记忆 → 事件摘要;语义记忆 → 知识图谱;程序记忆 → 学习到的模式
核心工作流
-
上下文窗口优化:测量当前 token 使用量;识别冗余或冗长内容;对旧消息实施摘要;优先保留近期与相关内容;使用压缩技术;监控质量与 token 之间的权衡。
-
对话记忆设计:定义记忆保留需求;选择存储策略(内存、数据库);实现消息窗口化;为溢出内容添加摘要;设计相关历史的检索;处理会话边界。
-
长期记忆实现:定义所需记忆类型;设计记忆存储模式;实现记忆写入触发;构建检索机制;添加记忆整合;实现遗忘策略。
适用场景
适用于需要为 LLM 应用设计记忆与上下文体系的开发场景,包括对话系统、AI 智能体、RAG 检索上下文管理,以及需要在有限上下文窗口内平衡质量与 token 成本的场景。
最佳实践
- 对旧上下文进行摘要,而不是直接截断
- 使用语义搜索检索相关历史
- 将系统指令与对话内容分离
- 缓存频繁访问的上下文
- 监控上下文利用指标
- 在达到上限时实现优雅降级
反模式
- 始终使用完整历史:会超出上下文限制,应改用滑动窗口 + 摘要
- 不做摘要:会丢失重要上下文,应在淘汰前先摘要
- 优先级均等:会在无关内容上浪费 token,应提高近期/相关内容的权重
- 无持久化:跨会话会丢失记忆,应存储重要记忆
- 忽略 token 成本:会导致 API 调用昂贵,应监控并优化使用
限制
该技能不负责构建完整 RAG 流水线、管理向量数据库、协调多个智能体或训练嵌入模型,这些任务应分别交由其他专门技能处理。关于该技能的收费、价格、平台支持等具体信息,资料中暂未提供。