SuperAPI AI 工具集

maf-online-endpoint

智能体与模型

查看项目

更新于 10-16 06:47

技能介绍

用途:把 Microsoft Agent Framework(agent-framework)工作流按标准评分脚本模式(init()/run())封装为 Azure 托管在线端点,可部署到独立 Azure Machine Learning 工作区,或 Azure AI Foundry 基于 hub 的项目(项目名即 az ml 命令中的工作区名)。两种目标生成相同文件并使用相同的 az ml CLI / azure-ai-ml Python SDK,区别在于工作区标识与 RBAC 范围。

主要能力:在项目根目录生成 online-deployment/ 目录,包含 score.py(init() 导入工作流工厂,run() 每次请求创建新实例以避免并发错误)、conda.yml(Python 3.11 + agent-framework + azureml-inference-server-http)、endpoint.yml、带 ${VAR} 占位符的 deployment.yml、deploy.sh 及 .gitignore。支持 Foundry LLM、OpenAI API key、RAG(AI Search)、函数工具等常见工作流模式,并可按需注入环境变量与 RBAC 角色。

使用方式:先收集订阅、资源组、工作区/项目名、工作流文件路径等变量;读取工作流文件检查导入与 os.environ/os.getenv 调用;从模板生成文件;用 az ml online-endpoint create 与 az ml online-deployment create 部署(需在项目根目录执行),再冒烟测试。Windows 上 deploy.sh 不可用,需在 PowerShell 中直接运行 az 命令。

限制:路径按 YAML 所在位置解析,需用 conda_file: conda.yml 与 code: ..,否则出现双重嵌套错误;request_timeout_ms 建议 60000,AML 默认 5 秒会超时;不要随意固定包版本;托管标识工作流需分配 Cognitive Services User 角色并等待 5–10 分钟传播;渲染后的 YAML 可能含明文密钥,须加入 .gitignore。具体收费、价格与平台细节暂未提供。