SuperAPI AI 工具集

ai-native-development

智能体与模型

查看项目

更新于 11-13 18:45

技能介绍

AI-Native Development 是一个聚焦“以 AI 为一等公民”的应用开发技能,提供将大语言模型集成进实际产品的模式与实现参考。资料将其定位为覆盖 LLM 集成、RAG、向量数据库、智能体工作流以及 AI 应用性能与成本优化的综合技能。

一、用途与适用场景 资料列出的真实用例包括:AI 驱动的文档搜索(对技术文档做语义检索与混合检索)、代码审查助手(自动化分析安全、性能与风格问题)、基于 RAG 的客服问答并引用知识库文章、面向文章/教程/文档的内容分析流水线、带来源追踪与综合的研究助手。适合使用的时机包括:构建聊天机器人、问答系统或对话界面;实现语义搜索或推荐引擎;创建可使用工具并执行动作的 AI 智能体;集成 OpenAI、Anthropic、Ollama 本地模型等 LLM;构建 RAG 知识检索系统;优化 AI 成本与延迟;实现 AI 可观测性与监控;为 CI/CD 流水线搭建本地 LLM 推理。

二、核心理念 资料强调传统软件是确定性的,而 AI 原生应用是概率性的,因此需要:以相关上下文支撑 LLM 输出;优先用 RAG 而非微调(检索更便宜、更灵活);用嵌入实现语义搜索而非单纯关键词匹配;让 LLM 能推理、规划并使用工具;关注 token 用量带来的运营成本;为概率系统引入可观测性;重视提示工程。

三、主要能力 1)嵌入与向量搜索:将文本转为高维向量(1536 或 3072 维),用余弦相似度衡量语义相似性,通过向量搜索找到相关文档,并支持批量处理;资料还给出分块策略(500—1000 token,10%—20% 重叠)。 2)向量数据库:介绍 Pinecone(无服务器托管服务,资料标注 $0.096/小时)、Chroma(开源自托管)、Weaviate(灵活 schema、混合搜索)、Qdrant(Rust 实现、高性能),并覆盖 upsert、查询、更新、删除、元数据过滤与混合搜索、成本对比等。 3)RAG:核心模式为“检索相关文档—构造上下文—用 LLM 生成带上下文的答案”;高级模式包括带引用与来源追踪的 RAG、混合搜索(语义+关键词)、多查询 RAG、HyDE、上下文压缩,以及 Reciprocal Rank Fusion、对话记忆、错误处理与校验。 4)函数调用与工具使用:用 JSON Schema 定义工具,依据 LLM 决策执行函数,支持并行工具调用与流式响应,并涉及用 Zod 做输入校验、错误处理与降级策略。 5)智能体工作流:给出 ReAct(推理+行动+观察循环)、思维树、多智能体协作、自主智能体等模式,以及智能体记忆管理、错误恢复与安全防护。 5.1)多智能体编排:资料以 Opus 4.5 的扩展思考能力为例,展示编排器模式:将目标分解为任务、构建依赖图、按依赖并行执行、验证并消解冲突;并给出自适应智能体选择(按能力、负载、历史表现、成本评分;复杂任务用 Opus、简单任务用 Haiku)与智能体通信总线示例。 6)多智能体综合与聚合:以代码审查多智能体系统(安全、性能、风格、测试覆盖、文档、依赖审计等并行分析后综合)和电商商品分类(图像、文本、属性提取、相似商品多路预测后加权投票)为例,说明置信度过滤与冲突消解。 7)流式响应:支持逐 token 流式输出、面向 Web 客户端的 SSE、带函数调用的流式与背压处理。 8)LLM-as-Judge 评估(标注 v1.1.0):从相关性、深度、连贯性、准确性、完整性等维度用 LLM 评估 LLM 输出,并给出质量门限(阈值 0.7)与重试集成示例。 9)成本优化:资料建议在 CI/开发环境使用本地模型(如 Ollama 配合 DeepSeek R1 70B、Qwen 2.5 Coder 32B,资料称可节省 93%)、简单任务用小模型、使用提示缓存、批量请求、设置 max_tokens、监控用量告警、通过 provider factory 自动切换云端/本地,并给出用 tiktoken 统计 token 的示例。

四、使用方式与限制 资料以技能条目形式组织,正文多为概念说明与代码片段,引用 references/vector-databases.md、references/rag-patterns.md、references/function-calling.md、references/agentic-workflows.md 等参考文件展开细节;流式模式另指向 streaming-api-patterns/SKILL.md。具体安装命令、运行步骤、依赖版本与完整 API 配置在所提供的资料中暂未提供,需以原始技能文档为准。资料中出现的价格与节省比例为原文标注,未说明适用条件与时效,使用前应自行核实。