SuperAPI AI 工具集

model-serving

智能体与模型

查看项目

更新于 10-15 20:32

技能介绍

用途:在 Databricks 上把 MLflow 模型和 AI 智能体部署为可扩展的 REST API 端点,并对端点进行查询与状态检查。

主要能力:按模型类型提供不同模式——传统机器学习(sklearn、xgboost)用 mlflow.sklearn.autolog(),自定义 Python 模型用 mlflow.pyfunc.PythonModel,生成式 AI 智能体(LangGraph、工具调用)用 ResponsesAgent。配套参考文件覆盖经典 ML、自定义 PyFunc、GenAI 智能体、工具集成、开发测试、日志与注册、部署、端点查询、包依赖等主题。

使用方式:以 GenAI 智能体为例,先在 notebook 或 MCP 中安装包(%pip install -U mlflow==3.6.0 databricks-langchain langgraph==0.3.4 databricks-agents pydantic 并重启 Python),按 ResponsesAgent 模式编写 agent.py,用 upload_folder 上传到工作区,用 run_python_file_on_databricks 测试与记录模型,再通过基于 Job 的异步部署上线,最后用 query_serving_endpoint 查询。MCP 工具包括 upload_folder、run_python_file_on_databricks、execute_databricks_command、create_job、run_job_now、get_run、get_serving_endpoint_status、query_serving_endpoint、list_serving_endpoints;无 MCP 工具时可改用 SDK/CLI 示例。

适用场景:需要将传统 ML 模型或 LangGraph 等智能体发布为在线端点,并支持聊天/智能体与结构化数据两类查询的团队。

限制与注意事项:建议 DBR 16.1+、启用 Unity Catalog 与 Model Serving;ResponsesAgent 输出必须用 self.create_text_output_item 等辅助方法而非原始字典;端点部署约需 15 分钟,需轮询状态;工具超时应用 Job 异步部署;包缺失需在记录模型时指定确切版本;模型路径需检查 Unity Catalog 路径。其他收费、价格、平台细节暂未提供。