SuperAPI AI 工具集

llm-app-patterns

智能体与模型

查看项目

更新于 10-16 05:43

技能介绍

用途:为生产级 LLM 应用提供可复用架构模式,灵感来自 Dify 与行业最佳实践。适用场景包括设计 LLM 驱动应用、实现 RAG(检索增强生成)、构建带工具的 AI 智能体、搭建 LLMOps 监控、在多种智能体架构间做选择。

主要能力分四部分:

  1. RAG 流水线:文档摄入与分块(固定大小、语义、递归、文档感知,推荐 chunk_size 512、overlap 50)、嵌入与存储(Pinecone、Weaviate、ChromaDB、pgvector,及 text-embedding-3-small/large、本地 bge-large)、检索策略(语义搜索、混合检索含 BM25 与 RRF、多查询检索、上下文压缩)、带上下文生成并返回来源引用。
  2. 智能体架构:ReAct(推理+行动循环,含最大迭代限制)、Function Calling(工具 schema 与工具调用消息)、Plan-and-Execute(先规划、逐步执行、必要时重新规划)、多智能体协作(研究者、分析师、写作者、评审者与协调者分工)。
  3. 提示词 IDE:带变量校验与少样本示例的模板、提示词版本注册与 A/B 测试、提示词链(如研究→分析→总结)。
  4. LLMOps 与可观测性:延迟、质量、成本、可靠性指标;借助 OpenTelemetry 进行日志与分布式追踪;LLM 输出评估框架(相关性等评分)。

使用方式:资料以模式与代码片段形式呈现,实际接入需自行集成 LLM、向量库与监控后端。部分示例代码在资料末尾被截断,且未提供安装命令、许可、定价或平台支持等事实信息。本条目为模式参考,不包含可直接运行的完整产品。