用途:面向上下文工程,帮助 LLM 应用在对话中管理有限的上下文窗口,避免触及 token 上限、上下文腐化以及对话中途丢失关键信息。
主要能力:提供上下文工程、上下文摘要、上下文裁剪、上下文路由、token 计数、上下文优先级排序等技能。强调上下文是收益递减的有限资源,更多 token 不等于更好结果,关键在于筛选正确信息;涉及序列位置效应、中间遗失问题,以及何时摘要、何时检索。
模式:包含分层上下文策略、序列位置优化、智能摘要等知识模块,并列出朴素截断、忽视 token 成本、一刀切方案等反面模式。
使用方式与限制:资料未提供具体安装命令、代码示例或操作步骤,暂未提供。