SuperAPI AI 工具集

rag-vs-context-engineering

智能体与模型

查看项目

更新于 10-15 19:50

技能介绍

用途:这是一个决策类技能,帮助在为 LLM 接入私有或最新数据时,判断该用 RAG、长上下文填充、结构化工具检索还是纯提示词方案。核心观点是检索只是上下文工程的一环,多数“RAG 不工作”其实是上下文工程问题(粒度、来源、排序、刷新策略不对)。

主要能力:提供决策流程——答案在已知小且稳定的文档中则不检索,直接放系统提示并缓存前缀;在结构化存储(数据库、API、表格)中则给模型类型化工具查询,模式优于嵌入;语料经廉价信号(日期、标签、用户 ID)过滤后能装进上下文窗口则直接加载;语料大、非结构化且查询为语义型才用 RAG;对新鲜度要求高(分钟级)用查询时工具调用检索;相关上下文是交互式的(聊天历史、草稿)则用工作记忆。还归纳了各模式一句话要点:纯提示、结构化工具检索、过滤式上下文加载、嵌入 RAG、混合检索(嵌入+BM25+重排)、长上下文填充、微调。

使用方式:当用户反射性地想用嵌入、调试“模型答错”却未独立测量检索质量、在多种方案间选择、或构建中问 RAG 为何不工作时使用。技能会提示需先问清语料形态、token 规模、新鲜度、查询形态、是否按用户隔离、错误代价;若答不出前两项就无法选检索策略。

限制与反模式:反对固定分块、无重排的嵌入、对结构化数据库做 RAG、把整库塞进上下文、多跳问题单阶段检索、只评答案不评检索、全量夜间重建索引。强调先看检索评估(标注集上的 Recall@k)再谈嵌入。参考资料涉及检索模式、检索评估、分块等文件,具体内容暂未提供。