用途:上下文注入指把文档、数据、示例或工具输出动态插入 AI 提示词,使模型获得准确、有依据的知识。它不只是粘贴文本,还涉及位置安排、格式化和 token 预算分配。
主要能力:识别上下文需求(文档依据、少样本示例、工具输出、元数据);从数据库、文件系统、API、向量库或历史对话中收集并压缩上下文;选择注入策略(系统提示注入角色与规则、文档依据放入用户消息、少样本示例置于系统提示与查询之间、工具输出作为 assistant/tool 消息);用 XML 标签、Markdown 标题或反引号围栏分隔并标注内容;组装提示词并校验 token 分配。
关键概念:模型存在“中间迷失”效应,对上下文窗口开头和结尾关注最强,应把最高优先级信息放在开头或紧邻查询处;token 预算可参考系统指令约 10–15%、注入上下文约 50–70%、对话历史约 5–10%、回复预留约 15–25%;清晰分隔符可避免模型混淆上下文与指令;注入 2–3 个输入输出示例能显著提升格式遵循度。
使用方式:当模型需要外部信息才能准确完成任务时使用。提供原始上下文、任务描述,可选提示词模板,由该技能组装结构良好的提示词。
适用场景:代码审查时注入源文件、客服问答注入产品文档、个性化回复注入用户画像等。
限制与边界情况:上下文超出 token 预算时按相关性压缩或截断,不可静默丢弃;多个来源冲突时需指明优先级或要求模型标记冲突;注入内容可能含 PII 或凭据,需先脱敏;检索为空时应注入回退提示而非空块;注入用户提供或网页抓取内容时需防范提示注入攻击,明确标注为数据而非指令。
最佳实践:使用显式分隔符;把关键上下文放在查询附近;只注入必要内容;指令与内容分离;对提示词模板做版本管理;对比有上下文与无上下文的输出以验证效果。