用途
AI RAG Pipeline 用于通过 inference.sh CLI(infsh)构建 RAG(Retrieval Augmented Generation,检索增强生成)流水线。RAG 将三部分组合起来:检索(从外部来源获取相关信息)、增强(把检索到的上下文加入提示词)、生成(大语言模型基于上下文生成回答)。其目标是产出更准确、更新、更可验证的 AI 回答。
主要能力
该技能整合了三类工具:
- 搜索工具:Tavily Search(tavily/search-assistant,AI 驱动搜索并带答案)、Exa Search(exa/search,神经搜索与语义匹配)、Exa Answer(exa/answer,直接事实性回答)。
- 提取工具:Tavily Extract(tavily/extract,从 URL 提取干净内容)、Exa Extract(exa/extract,分析网页内容)。
- LLM 工具:Claude Sonnet 4.5(openrouter/claude-sonnet-45,复杂分析)、Claude Haiku 4.5(openrouter/claude-haiku-45,快速处理)、GPT-4o(openrouter/gpt-4o,通用)、Gemini 2.5 Pro(openrouter/gemini-25-pro,长上下文)。
使用方式
需要先安装 inference.sh CLI(infsh),然后登录:
infsh login
最简单的 RAG 流程是“搜索 + LLM”:
SEARCH=$(infsh app run tavily/search-assistant --input '{"query": "latest AI developments 2024"}')
infsh app run openrouter/claude-sonnet-45 --input "{
\"prompt\": \"Based on this research, summarize the key trends: $SEARCH\"
}"
技能中给出的流水线模式包括:
- 模式 1:简单搜索 + 回答:[用户查询] -> [网络搜索] -> [带上下文的 LLM] -> [回答]。
- 模式 2:多源研究:[查询] -> [多个搜索] -> [聚合] -> [LLM 分析] -> [报告]。
- 模式 3:提取 + 处理:[URL] -> [内容提取] -> [分块] -> [LLM 摘要] -> [输出]。
技能还提供了多个可直接参考的示例,包括基础 RAG 流水线、多源研究、URL 内容分析、事实核查流水线、研究报告生成器,以及使用 Exa Answer 的快速带来源回答。
适用场景
- 基于最新网络信息生成带引用的研究摘要。
- 对某一主张进行事实核查,输出判定、支持证据、矛盾证据与来源。
- 对指定 URL 的文档或报告进行内容提取与要点分析。
- 围绕某一主题聚合多来源数据,生成结构化研究报告。
- 直接回答事实性问题并附带来源。
最佳实践
技能中列出的实践包括:查询优化(避免过于宽泛,使用具体且带上下文的查询)、上下文管理(对过长的搜索结果先用快速模型摘要再交给分析模型)、来源归属(要求 LLM 以 Source Name 格式引用来源)、迭代研究(先广泛搜索,再根据发现深入搜索)。
限制
该技能依赖 inference.sh CLI(infsh)及上述各 app 的可用性;具体安装方式、计费、价格、速率限制、平台支持范围等事实在所提供的资料中暂未提供。