Context Engineering 是一套用于 AI 智能体系统的上下文工程技能,旨在为 LLM 任务筛选出最小的高信号 token 集合,从而在最大化推理质量的同时最小化 token 使用量。
用途
该技能适用于以下场景:设计或调试智能体系统;上下文限制约束性能;优化成本与延迟;构建多智能体协作;实现记忆系统;评估智能体表现;开发 LLM 驱动的流水线。
核心原则
- 上下文质量优于数量:高信号 token 胜过穷举式内容。
- 注意力是有限的:U 型曲线偏好开头与结尾位置。
- 渐进式披露:按需即时加载信息。
- 隔离防止退化:将工作划分到子智能体。
- 先测量后优化:了解你的基线。
快速参考
技能提供多个主题参考文档,按需使用:
- 基础(Fundamentals):理解上下文结构与注意力机制,参考 context-fundamentals.md。
- 退化(Degradation):调试失败、中间信息丢失、上下文污染,参考 context-degradation.md。
- 优化(Optimization):压缩、掩码、缓存、分区,参考 context-optimization.md。
- 压缩(Compression):长会话、摘要策略,参考 context-compression.md。
- 记忆(Memory):跨会话持久化、知识图谱,参考 memory-systems.md。
- 多智能体(Multi-Agent):协调模式、上下文隔离,参考 multi-agent-patterns.md。
- 评估(Evaluation):测试智能体、LLM-as-Judge、指标,参考 evaluation.md。
- 工具设计(Tool Design):工具整合、描述工程,参考 tool-design.md。
- 流水线(Pipelines):项目开发、批处理,参考 project-development.md。
关键指标
- Token 利用率:70% 时告警,80% 时触发优化。
- Token 方差:可解释 80% 的智能体性能方差。
- 多智能体成本:约为单智能体基线的 15 倍。
- 压缩目标:减少 50-70%,质量损失低于 5%。
- 缓存命中目标:稳定工作负载下达到 70% 以上。
四桶策略
- 写入(Write):将上下文保存到外部(草稿板、文件)。
- 选择(Select):只拉取相关上下文(检索、过滤)。
- 压缩(Compress):在保留信息的前提下减少 token(摘要)。
- 隔离(Isolate):拆分到子智能体(分区)。
反模式
- 用穷举式上下文代替精心筛选的上下文。
- 将关键信息放在中间位置。
- 在达到限制前没有压缩触发机制。
- 对可并行任务使用单一智能体。
- 工具缺少清晰描述。
使用准则
- 将关键信息放在上下文的开头或结尾。
- 在利用率达到 70-80% 时实施压缩。
- 使用子智能体实现上下文隔离,而非角色扮演。
- 用四问框架设计工具(做什么、何时用、输入、返回)。
- 以每任务 token 数而非每请求 token 数进行优化。
- 用基于探针的评估进行验证。
- 在生产环境中监控 KV 缓存命中率。
- 从最小化开始,仅在证明必要时才增加复杂度。
脚本
- context_analyzer.py:上下文健康分析、退化检测。
- compression_evaluator.py:压缩质量评估。
限制
关于该技能的具体安装方式、收费模式、支持平台及版本要求,资料中暂未提供。