用途:面向需要把 AI/ML 能力接入应用的开发者,提供 LLM 调用、嵌入、向量检索与 RAG 的集成模式参考。
主要能力:资料给出 OpenAI 与 Anthropic Claude 两类 LLM 的对话、流式输出与工具调用(function calling / tool use)示例;文本嵌入生成、批量嵌入与余弦相似度计算;Pinecone 向量库的 upsert 与相似查询;基础 RAG 管线以及带 Cohere 重排序的进阶 RAG;LangChain 的链式组合、文档加载切分与检索器构建;以及基于 Zod 的结构化输出解析。
使用方式:示例以 TypeScript/JavaScript 为主,通过 API Key 环境变量初始化客户端(如 OPENAI_API_KEY、ANTHROPIC_API_KEY、PINECONE_API_KEY、COHERE_API_KEY),再按片段调用相应接口;文档切分常用 RecursiveCharacterTextSplitter,chunkSize 1000、chunkOverlap 200。
适用场景:构建问答机器人、知识库检索、文档摘要、信息抽取等智能应用。
限制:资料未提供安装命令、依赖版本、收费与价格、部署平台、性能指标或模型额度等信息;具体模型名、参数与行为以各服务商最新文档为准。