SuperAPI AI 工具集

ai-architect-expert

智能体与模型

查看项目

更新于 10-16 03:17

技能介绍

该技能用于在用户提到 AI 架构、MLOps、系统设计或 AI 基础设施时,提供专家级设计指导。

用途:设计 AI 系统、MLOps 架构、可扩展 ML 基础设施与 AI 平台工程。

主要能力:

  • AI 系统架构:模型服务架构、实时与批量推理、特征存储、模型注册表、训练流水线、数据版本化。
  • MLOps 基础设施:ML 的 CI/CD、模型监控与可观测性、A/B 测试框架、模型重训自动化、资源编排、成本优化。
  • 可扩展性模式:分布式训练、模型并行、数据并行、推理优化、缓存策略、负载均衡。
  • 平台组件示例:模型注册表(ModelRegistry,含注册、晋升阶段、获取生产模型)、特征存储(FeatureStore)、训练流水线(TrainingPipeline 及基于 DDP 的分布式实现)、模型服务(ModelServer,基于 FastAPI,含预测缓存与批量预测)、监控(ModelMonitor,含延迟指标与数据漂移检查)。

使用方式:作为技能被调用,围绕上述主题给出架构与实践建议;资料未提供具体安装命令。

适用场景:AI 平台与 MLOps 架构设计、模型服务与训练基础设施规划、生产监控与发布策略设计。

限制:资料仅给出概念、代码示例与最佳实践,未提供定价、平台支持范围、性能数据或完整实施步骤,暂未提供相关信息;反模式提醒包括无模型版本化或注册表、训练与服务环境不一致、缺少监控告警、手工部署、忽视数据漂移、无回滚策略、初期 MVP 过度设计。资源参考:MLflow、Kubeflow、Seldon Core、BentoML、Weights & Biases。