SuperAPI AI 工具集

agent-system-design

智能体与模型

查看项目

更新于 10-29 04:35

技能介绍

【用途】 Agent System Design 是一个生产级智能体系统的设计技能,用于解决原型智能体无法直接投入生产的问题。其核心观点是:演示可以无限运行,但生产环境必须有约束。该技能定义了生产智能体必须执行的预算限制、停止失控循环的断路器,以及防止智能体偏离自身领域的主权规则。

【适用场景】 技能列出的适用情形包括:将智能体从原型迁移到生产;智能体陷入循环、花费 200 美元却未产出有用结果;无法用一句话回答“这个智能体被允许做什么”;需要与利益相关方设定 SLO/SLA;以及一个智能体可以调用另一个智能体的多智能体系统。

【五项预算】 技能要求每个生产智能体执行五项预算,默认上限为:MAX_LOOPS 25 次迭代,超出则停止并移交人工;MAX_TOKENS 每次运行 200k,超出则总结状态并重启;MAX_COST_USD 每次运行 2 美元,超出则硬停止并呼叫操作员;MAX_LATENCY_S 墙钟时间 300 秒,超出则返回部分结果并记录未完成;MAX_TOOL_CALLS 每次运行 50 次,超出则停止并标记可疑行为。这些上限按“每次运行”计算,由执行框架强制执行,而不是靠提示词约束 LLM。

【循环终止规则】 满足以下任一条件即停止:目标已验证(测试通过/验收标准达成)、预算上限触达、相同工具加参数重复 3 次触发循环检测器、护栏拦截、人工审批(HITL)被拒绝、操作员发出终止信号。

【断路器模式】 技能给出 AgentCircuitBreaker 示例类,包含最大失败次数(默认 3)、时间窗口(60 秒)与冷却期(300 秒)。当失败次数在窗口内达到阈值时,熔断器进入打开状态并在冷却期内直接抛出 CircuitOpen 异常。断路器应按每个工具、每个下游服务、每个智能体分别应用。

【主权边界】 每个智能体持有一张域卡片,声明其 owns(拥有)、borrows(借用)、forbidden(禁止)的能力集合以及 escalates_to 升级对象。示例为计费助手:拥有发票增删改查、超过 100 美元的退款发起需人工审批;以只读方式通过 customer-agent 借用客户查询;禁止删除用户账户、禁止发送外部邮件;升级至运维值班。规则是智能体绝不静默调用 owns 集合之外的能力,跨域调用必须经过显式路由。

【降级模式】 上游失败时应降级而非崩溃:LLM API 不可用时返回带“stale”标记的缓存答案;工具服务不可用时跳过可选工具并标记为部分完成;运行中途触及预算时总结进度并排队恢复;护栏不确定时默认拒绝并转人工。

【重试策略】 采用带抖动的指数退避,最多 3 次尝试;所有改变状态的工具使用幂等键;护栏拦截绝不重试,因为那是决策而非失败。

【参考数据类】 技能提供 AgentSLA 数据类,包含 max_loops、max_tokens、max_cost_usd、max_latency_s、max_tool_calls、require_hitl_above_usd、circuit_breaker 以及 on_cap_hit(stop / summarize_restart / escalate)等字段。

【延伸阅读与配套】 进一步阅读包括智能体的 SRE 实践(SLO、错误预算、事后复盘)、断路器模式(Hystrix、resilience4j)、LLM 成本控制手册(2026)。建议与 agent-guardrails、agent-observability 技能配合使用。