SuperAPI AI 工具集

ai-llm-engineering

智能体与模型

查看项目

更新于 10-16 06:47

技能介绍

用途:作为 LLM 系统落地与运维的统一入口,用于执行、验证并扩展符合现代生产标准的 LLM 系统,同时把领域细节委派给专门技能。

主要能力:提供速查参考与决策框架,覆盖数据与训练/微调(PEFT/LoRA 为标准)、评估(自动化测试、指标、发布门禁)、部署(vLLM 24x 吞吐、FP8/FP4 量化)、LLMOps(漂移检测、重训练)、安全(多层防御、AI 护栏)。内含决策树帮助选择架构:需要最新知识时选基础 RAG(页面级分块加混合检索)或高级 RAG(重排加上下文检索);需要工具调用时选简单智能体(ReAct)或多智能体(LangGraph、CrewAI);静态行为足够时选提示工程,追求生产质量时选微调;最佳效果为混合方案。速查表列出 RAG、智能体工作流、提示设计、评估、生产部署、监控对应的工具与框架。

使用方式:新项目从生产检查清单开始验证部署前要求,用决策矩阵选型,参考项目规划模式设计 FTI 流水线,用通用设计模式落地,并避开反模式;排障时查反模式与决策矩阵;日常运维遵循检查清单、评估模式与 LLMOps 最佳实践。资源含项目规划模式、生产检查清单、常见设计模式、决策矩阵、反模式,以及 LLMOps、评估、提示工程、智能体、RAG 等领域模式;templates/ 提供可复制模板,data/sources.json 收录 50 多个权威来源。

适用场景:LLM 项目检查清单与生产最佳实践、构建部署 RAG/智能体/提示类应用、提示设计(CoT、ReAct、模板)、幻觉/偏见/检索问题排障、评估基准与多指标评测、LLMOps 部署回滚扩缩容、技术栈选型、生产部署策略。

限制:各领域深度需使用专门技能,如提示工程与 CI/CD、RAG 流水线与分块、搜索调优、智能体架构、推理服务与量化、生产部署监控、安全护栏等。价格、收费、平台支持范围等具体信息暂未提供。