用途:该技能定位为 ML API 端点专家,用于设计并部署机器学习推理接口,覆盖 model serving、inference endpoints、FastAPI 与 ML 部署场景。
主要能力:强调无状态设计、统一的成功/错误响应结构、版本化策略与推理前的严格输入校验;提供单条预测与批量预测的 FastAPI 实现思路,包含 Pydantic 输入输出模型、特征数量校验、预测结果、置信度、模型版本与请求 ID;给出模型缓存的 TTL 实现思路、健康检查与指标端点,以及 Docker 部署示例命令。
使用方式:以 FastAPI 应用为入口,启动时加载模型;通过 FastAPI 定义 /predict、/predict/batch、/health、/metrics 等端点;使用 Pydantic 校验输入;用 Dockerfile 构建镜像并以 uvicorn 启动,命令为 uvicorn main:app --host 0.0.0.0 --port 8000 --workers 4。
适用场景:模型服务化、在线推理接口、批量推理、模型更新与多版本支持、容器化部署。
限制:资料未提供具体安装命令、依赖清单、收费或价格信息、性能指标与安全细节;示例代码中的 generate_request_id 等辅助函数未给出实现。