SuperAPI AI 工具集

databricks-model-serving

智能体与模型

查看项目

更新于 10-15 20:32

技能介绍

用途:在 Databricks 工作区中部署并查询 Model Serving 端点,把 MLflow 模型和 AI 智能体发布为可扩展的 REST API。

主要能力:按模型类型选择部署方式——传统 ML(如 sklearn、xgboost)可用 mlflow.sklearn.autolog() 自动记录并注册;自定义 Python 模型用 mlflow.pyfunc.PythonModel;生成式 AI 智能体(LangGraph、工具调用)用 ResponsesAgent。文档还列出基础模型 API 端点名称(如聊天、嵌入模型)及其上下文长度等说明,并提供嵌入模型默认选项。

使用方式:前置条件为推荐 DBR 16.1+、启用 Unity Catalog 与 Model Serving。部署 GenAI 智能体流程包括:安装包、创建 agent.py、上传到工作区、测试、记录模型、部署(建议通过 Job 异步部署避免超时)、查询端点。安装命令示例:%pip install -U mlflow==3.6.0 databricks-langchain langgraph==0.3.4 databricks-agents pydantic,随后 dbutils.library.restartPython()。查询时可用 manage_serving_endpoint 的 get、list、query 操作,聊天端点传 messages,传统 ML 端点传 dataframe_records。

限制:ResponsesAgent 输出必须使用 self.create_text_output_item 等辅助方法,不能返回原始字典;端点部署约需 15 分钟,需轮询状态;包缺失时应在 pip_requirements 指定确切版本;工具超时应改用基于 Job 的异步部署;认证错误需确保 log_model 中指定资源以自动传递;模型路径需符合 catalog.schema.model_name。若 MCP 工具不可用,可改用参考文件中的 SDK/CLI 示例。