SuperAPI AI 工具集

senior-ml-engineer

智能体与模型

查看项目

更新于 10-15 17:28

技能介绍

用途:该技能面向生产级机器学习工程,帮助把训练好的模型部署上线、搭建 MLOps 基础设施、集成 LLM API,以及构建 RAG 检索增强系统。

主要能力:模型部署支持导出为 ONNX/TorchScript/SavedModel、容器化、金丝雀发布,并通过 FastAPI、Triton、TF Serving、TorchServe 或 Ray Serve 提供服务,设定 p95<100ms、错误率<0.1% 的健康门槛。MLOps 流水线覆盖特征存储(Feast/Tecton)、实验跟踪(MLflow/W&B)、模型注册、A/B 测试与漂移触发重训。LLM 集成包含提供商抽象、指数退避重试与降级、token 计数、响应缓存、成本跟踪和 Pydantic 输出校验。RAG 部分涉及向量数据库选型、分块策略、摄取、检索与重排。监控包含延迟/错误跟踪、输入漂移检测(KS 检验、PSI)、预测偏移告警与自动重训触发。

使用方式:三个脚本均以 python scripts/<脚本名>.py --input <path> --output <path> [--config <file>] 调用,支持 --verbose/-v,并向 stdout 输出 JSON(status、start_time、end_time、processed_items)。model_deployment_pipeline.py 生成部署产物(Dockerfile、K8s 清单、健康检查);rag_system_builder.py 搭建 RAG 流水线脚手架;ml_monitoring_suite.py 配置漂移检测、告警与看板。执行前需确认任务类型、服务目标与发布方式、模型或数据接口(RAG 还需语料与向量库);信息不明时应先询问,若用户要求直接起草则需在产物顶部列出假设。

适用场景:模型上线与金丝雀发布、搭建 MLOps 基础设施、LLM API 集成与成本控制、RAG 流水线构建、漂移检测与模型健康告警。

限制:不覆盖模型训练算法与超参调优、原始数据管道与 ETL 编排、提示工程与提示优化、图像/视频模型架构与视觉推理优化。可与数据科学家、数据工程师、提示工程师、DevOps、计算机视觉和安全等技能协作。版本 1.1.0,最后更新 2026 年 6 月。