SuperAPI AI 工具集

databricks-model-serving

部署与运维

查看项目

更新于 10-15 20:32

技能介绍

用途:在 Databricks 上将 MLflow 模型和 AI 智能体部署为可扩展的 REST API 端点,并通过 SDK、REST 或 MCP 工具查询这些端点。

主要能力:支持传统 ML(如 sklearn、xgboost,配合 mlflow.sklearn.autolog())、自定义 Python 模型(mlflow.pyfunc.PythonModel)以及 GenAI 智能体(ResponsesAgent,含 LangGraph、工具调用)。文档列出基础模型 API 端点名称,要求在调用时使用表格中的精确名称,不得猜测或缩写,例如 databricks-gpt-5-2、databricks-claude-opus-4-6、databricks-meta-llama-3-3-70b-instruct、databricks-gemini-3-pro,以及嵌入模型 databricks-gte-large-en、databricks-bge-large-en、databricks-qwen3-embedding-0-6b。

使用方式:前置条件为建议 DBR 16.1+、启用 Unity Catalog 的工作区、启用 Model Serving。GenAI 智能体可先安装包:%pip install -U mlflow==3.6.0 databricks-langchain langgraph==0.3.4 databricks-agents pydantic,然后创建 agent.py、上传工作区、测试、记录模型并部署,最后查询端点。传统 ML 可启用 autolog 自动记录并注册模型,再通过 UI 或 SDK 部署。文中还给出 MCP 工具,如 upload_folder、run_python_file_on_databricks、manage_jobs、get_serving_endpoint_status、query_serving_endpoint、list_serving_endpoints。

适用场景与限制:适合在 Databricks 上部署和调用模型服务端点。部署可能需要约 15 分钟,端点未就绪时需轮询状态;ResponsesAgent 输出必须使用辅助方法(如 self.create_text_output_item),不能返回原始字典;记录模型时需指定精确的 pip_requirements 版本;认证错误需在 log_model 中指定资源以实现自动传递;模型路径需符合 Unity Catalog 的 catalog.schema.model_name 格式。其他收费、价格或未提及细节暂未提供。