SuperAPI AI 工具集

llm-app-patterns

智能体与模型

查看项目

更新于 10-16 07:26

技能介绍

用途:该技能用于设计 LLM 驱动的应用,涵盖检索增强生成(RAG)实现、带工具的 AI 智能体构建、LLMOps 监控搭建,以及在智能体架构之间做选择。

主要能力:一是 RAG 流程架构,分为文档摄取、检索上下文、生成回答三步;文档摄取提供固定长度、语义、递归和文档感知等分块策略,并给出推荐分块配置(chunk_size 512 token、chunk_overlap 50);嵌入与存储部分列出 Pinecone、Weaviate、ChromaDB、pgvector 等向量数据库的适用场景、规模与特性,以及若干嵌入模型的维度、成本与质量对比。检索策略包括基础语义搜索(semantic_search)、混合搜索(hybrid_search,用 alpha 平衡语义与 BM25 关键词)、多查询检索(multi_query_retrieval)和上下文压缩检索(compressed_retrieval)。生成阶段给出仅依据上下文作答的 RAG 提示模板(含上下文不足时声明无法回答的约束),并要求返回带来源引用的结果。

使用方式:在需要设计 LLM 应用、实现 RAG、构建智能体、搭建 LLMOps 监控或选择智能体架构时调用该技能,按其提供的模式与配置进行实现。资料中出现的函数与配置名(如 semantic_search、hybrid_search、CHUNK_CONFIG)可作为实现参考。

适用场景:面向生产环境的 LLM 应用开发,尤其是知识库问答、需要来源引用的生成式问答等检索增强场景。

限制:资料为模式说明,未提供完整安装命令、依赖版本、部署步骤与端到端示例;收费、价格、平台支持与具体效果暂未提供,向量数据库与嵌入模型的成本数据仅为资料中的单点参考。