用途:面向 LLM 系统的上下文工程,决定每轮进入模型上下文的内容,并通过上下文策略优化成本与延迟。适用于设计上下文流水线(前缀、检索、历史、用户输入)、实施摘要与滚动历史、选择分隔符/XML 块/结构化上下文格式,以及排查上下文相关失败(指令丢失、溢出、干扰、约束被忽略)。
主要能力:1)上下文预算与布局:按窗口分配 token 比例,系统策略与工具为固定块不可截断,检索文档/记忆高优先且重排序,历史优先压缩最旧内容,用户当前消息不可丢弃;使用显式 XML/markdown 分段,如 <policy>、<tools>、<context>、<history>、<user>。2)历史管理:可选完整近期窗口、滚动摘要、锚定消息、结构化状态等策略,保留用户目标、约束、未解决的工具有错误与待确认事项。3)检索入上下文:从用户消息与状态摘要生成查询,检索候选后去重、按相关性排序、加来源标签、按句子边界截断并标注“[truncated]”。4)缓存与预取:在提供方支持时缓存稳定前缀(系统与工具),可选在用户输入时预取检索结果,提示版本变更时使缓存失效。5)调试上下文故障:针对指令被忽略、文档幻觉、溢出错误、工具混淆等给出原因与修复方向,并在开发/预发环境记录各块 token 数。
使用方式:按需加载参考文档,布局与预算见 references/context_layout.md,摘要见 references/history_compression.md,检索打包见 references/retrieval_packing.md,缓存见 references/caching_prefetch.md,调试见 references/debugging_context.md。
不适用:持久记忆存储或长期回忆架构(ai-memory-developer)、完整 RAG 摄取/分块/嵌入/索引流水线(ai-engineer)、AI 组织运营与发布治理或 SLO(ai-lead-ops)、含分阶段 KPI 的 token/成本改进路线图(ai-token-improvement-plan-engineer)、商业/企业 AI 解决方案架构(applied-ai-architect-commercial-enterprise)。
限制:资料未提供具体平台、价格、性能数据或完整代码示例。