用途:在多租户 SaaS 中搭建承载智能体式 LLM 功能的运行时,把智能体循环做成独立的控制面服务,而不是塞进 Web 请求里的一个函数。
主要能力:决策任务应做成智能体、确定性工作流还是定时任务(默认拒绝“智能体”);设计智能体循环状态机(QUEUED、PLANNING、AWAITING_APPROVAL、ACTING、OBSERVING、COMPLETED,终止态还包括 FAILED、BUDGET_EXCEEDED、KILLED、ABANDONED),要求状态转移幂等;按最大时钟时长与可恢复性选择执行基座;接入步数、token、时钟时长与成本预算;实现幂等与可恢复;输出任务生命周期事件。运行时与请求服务的 Web/API 工作进程分离部署、崩溃隔离;任务记录含 task_id、tenant_id、feature、model_pin、prompt_version、tool_set_version 及各预算与状态;每步先写 agent_steps 再进下一步;副作用工具必须带幂等键,不支持幂等键的旧 API 用发件箱模式加去重表;超预算任务干净终止并发出 agent.task.budget_exceeded;每租户有后台可切换的 kill-switch。
使用方式:按 SKILL.md 的流程先做智能体/工作流/定时任务判定,再设计状态机、选执行基座、接入预算、保证幂等、发出事件、对照反模式检查。预算规则来自 ai-agent-cost-and-step-budgets,运行时是强制执行点。
适用场景:多租户 SaaS 中需要可审计、可恢复、可控成本的智能体功能运行时设计。
限制:不适合讲 ReAct 循环与工具契约基础、多智能体协作模式、数小时至数天的长时任务持久化,也不覆盖整体 AI 架构;需要先具备相应架构、权限、队列与评估输入;具体部署平台与价格资料未提供。