SuperAPI AI 工具集

foundation-model-agent-loop

智能体与模型

查看项目

更新于 10-15 20:33

技能介绍

用途:提供一个规范的智能体循环实现,让 Databricks 托管的 Foundation Model(如 databricks-meta-llama-3-3-70b-instruct)作为“大脑”,根据用户输入决定调用哪些工具,由本地代码执行工具并把结果回传,直到模型给出最终文本回复。不使用 LangGraph、MLflow 或自定义模型部署,仅用 HTTP 调用。

主要能力:定义 OpenAI 函数调用格式的工具 schema;通过 dispatch map 将工具名映射到本地函数;调用 /serving-endpoints/{endpoint}/invocations 端点;解析 choices[0].message 中的 tool_calls 与 finish_reason;执行工具并追加 role 为 tool、带 tool_call_id 的结果消息;设置最大迭代次数防止死循环。

使用方式:需具备支持函数调用的 Databricks Foundation Model 端点、databricks-sdk 与 requests 包及有效认证(Config())。核心步骤为定义 TOOL_SCHEMAS、建立 TOOL_FUNCTIONS 映射、实现 _call_foundation_model 与 run_agent_loop,可在 FastAPI 路由中直接进程内调用。

限制与注意:工具参数是 JSON 字符串需解析;工具结果消息必须带 tool_call_id;每次都要追加 assistant 消息以维持历史;工具内部应捕获异常并返回错误字符串;requests.post 为同步,循环用 def 而非 async;必须限制迭代次数;Genie 工具需对 statement_response 或 manifest 为 None 做空值保护。具体收费、价格与效果资料暂未提供。