用途:构建或改进 LLM 功能、RAG 系统与智能体,设计生产级 AI 架构与模型集成,优化向量检索与嵌入管线,实施 AI 安全、监控和成本控制。纯数据科学或传统机器学习(不含 LLM)、与 AI 无关的界面改动、缺少数据源或部署目标时不适用。 主要能力:一是 LLM 集成与模型管理,覆盖 OpenAI、Anthropic、Llama、Mixtral、Qwen、DeepSeek 等,以及 Ollama、vLLM、TGI 本地部署和 MLflow、BentoML 服务化;二是高级 RAG,含 Pinecone、Qdrant、Weaviate、Chroma、Milvus、pgvector 等向量库,分块策略、BM25 混合检索、重排序、查询理解及 GraphRAG、HyDE、RAG-Fusion、self-RAG 等模式;三是智能体编排,涉及 LangChain/LangGraph、LlamaIndex、CrewAI、AutoGen、Assistants API 及记忆与工具集成;四是向量索引与嵌入优化;五是提示工程技术;六是生产系统,包括 FastAPI 服务、流式响应、语义缓存、限流与可观测性;此外还有多模态集成、安全治理与数据管线管理。 使用方式:先澄清用例、约束与成功指标,再设计架构、数据流与模型选型,实现时加入监控、安全与成本控制,最后通过测试和分阶段发布验证。示例任务包括构建企业知识库混合检索 RAG、多智能体客服、成本优化推理管线、文档分析多模态系统等。 限制:资料未给出具体安装命令、价格或平台支持信息;强调避免未经批准向外部模型发送敏感数据,需为提示注入、PII 与合规增加防护。
ai-engineer
智能体与模型
更新于 10-16 01:13