SuperAPI AI 工具集

responses-agent-patterns

智能体与模型

查看项目

更新于 10-15 20:33

技能介绍

用途:该技能整理 Databricks GenAI 智能体使用 MLflow ResponsesAgent 的实现模式。资料指出 ResponsesAgent 对所有新建 Databricks GenAI 智能体是强制要求,取代 ChatAgent 与 PythonModel。

主要能力与规则:1) 必须继承 mlflow.pyfunc.ResponsesAgent,predict 返回 ResponsesAgentResponse,输入示例使用 input 键而非 messages。2) 调用 mlflow.pyfunc.log_model 时不得传入 signature 参数,签名由系统自动推断,否则会破坏 AI Playground 兼容性。3) 流式实现 predict_stream,逐块产出 ResponsesAgentStreamEvent,并必须发送最终的 output_item.done 事件。4) OBO 身份验证:通过检测 IS_IN_DB_MODEL_SERVING_ENV、DATABRICKS_SERVING_ENDPOINT、MLFLOW_DEPLOYMENT_FLAVOR_NAME 等环境变量判断是否运行于 Model Serving,若是在则使用 ModelServingUserCredentials,否则用默认认证。5) 使用 @mlflow.trace 为关键函数添加追踪,span_type 可为 AGENT、TOOL、LLM、RETRIEVER、MEMORY、JUDGE。

适用场景:创建新智能体、实现流式响应、配置 OBO 认证、添加追踪、排查 AI Playground 兼容性、设置资源自动认证透传。

限制与检查:需满足验证清单,包括继承正确、返回值正确、发送完成事件、OBO 上下文检测、资源声明、可在 AI Playground 加载;其余细节参考仓库内 references 目录文档。版本历史显示 2026 年 1 月调整了 OBO 上下文检测与强制要求。