SuperAPI AI 工具集

context-manager

智能体与模型

查看项目

更新于 10-15 11:08

技能介绍

用途

Context Manager 是一个面向 AI 上下文与记忆管理的技能,定位为 AI 系统“记忆”方面的专家。它专注于向量数据库(RAG)、短期与长期记忆架构,以及上下文窗口优化,用于处理对话历史、RAG 记忆系统和 LLM 应用中的高效上下文利用。

主要能力

该技能覆盖以下方向:

  • 设计 AI 记忆与上下文系统
  • 优化上下文窗口使用
  • 实现对话历史管理
  • 为 AI 智能体构建长期记忆
  • 管理 RAG 检索上下文
  • 在保持质量的前提下减少 token 使用
  • 设计多会话记忆持久化

使用方式

在以下情况调用该技能:设计 AI 记忆与上下文系统、优化上下文窗口使用、实现对话历史管理、为 AI 智能体构建长期记忆、在保持质量的同时减少 token 使用。

在以下情况不要调用:构建完整 RAG 流水线(改用 ai-engineer)、管理向量数据库(改用 data-engineer)、协调多个智能体(改用 agent-organizer)、训练嵌入模型(改用 ml-engineer)。

记忆类型选择决策框架

  • 单轮对话 → 滑动窗口上下文
  • 多会话用户 → 持久化记忆存储
  • 知识密集型 → 带向量数据库的 RAG
  • 任务导向 → 工作记忆 + 工具结果
  • 长时运行智能体:情景记忆 → 事件摘要;语义记忆 → 知识图谱;程序记忆 → 学习到的模式

核心工作流

  1. 上下文窗口优化:测量当前 token 使用量;识别冗余或冗长内容;对旧消息实施摘要;优先保留近期与相关内容;使用压缩技术;监控质量与 token 之间的权衡。

  2. 对话记忆设计:定义记忆保留需求;选择存储策略(内存、数据库);实现消息窗口化;为溢出内容添加摘要;设计相关历史的检索;处理会话边界。

  3. 长期记忆实现:定义所需记忆类型;设计记忆存储模式;实现记忆写入触发;构建检索机制;添加记忆整合;实现遗忘策略。

适用场景

适用于需要为 LLM 应用设计记忆与上下文体系的开发场景,包括对话系统、AI 智能体、RAG 检索上下文管理,以及需要在有限上下文窗口内平衡质量与 token 成本的场景。

最佳实践

  • 对旧上下文进行摘要,而不是直接截断
  • 使用语义搜索检索相关历史
  • 将系统指令与对话内容分离
  • 缓存频繁访问的上下文
  • 监控上下文利用指标
  • 在达到上限时实现优雅降级

反模式

  • 始终使用完整历史:会超出上下文限制,应改用滑动窗口 + 摘要
  • 不做摘要:会丢失重要上下文,应在淘汰前先摘要
  • 优先级均等:会在无关内容上浪费 token,应提高近期/相关内容的权重
  • 无持久化:跨会话会丢失记忆,应存储重要记忆
  • 忽略 token 成本:会导致 API 调用昂贵,应监控并优化使用

限制

该技能不负责构建完整 RAG 流水线、管理向量数据库、协调多个智能体或训练嵌入模型,这些任务应分别交由其他专门技能处理。关于该技能的收费、价格、平台支持等具体信息,资料中暂未提供。