SuperAPI AI 工具集

agent-system-design

智能体与模型

查看项目

更新于 10-15 19:53

技能介绍

用途:该技能用于把智能体从演示原型推进到生产环境,为其设定运行预算与服务等级约束。适用于以下场景:智能体出现死循环、产生高额费用却无有效产出;无法用一句话说明某智能体的权限范围;需要与相关方约定 SLO/SLA;以及多智能体系统中一个智能体可调用另一个智能体的情况。

主要能力:定义五类每轮运行预算,由运行框架强制实施而非通过提示词约束。MAX_LOOPS 默认 25 次迭代,超限则停止并移交人工;MAX_TOKENS 默认每次运行 200k,超限则总结状态并重启;MAX_COST_USD 默认每次运行 2 美元,超限硬停止并通知操作员;MAX_LATENCY_S 默认 300 秒墙钟时间,超限返回部分结果并记录未完成;MAX_TOOL_CALLS 默认每次运行 50 次,超限则停止并视为可疑行为。

循环终止规则:满足以下任一条件即停止——目标已验证(测试通过或验收标准满足)、触达预算上限、相同工具加参数重复 3 次触发循环检测、护栏拦截、人工审批被拒、操作员发出终止信号。

熔断器模式:提供 AgentCircuitBreaker 类,按工具、下游服务、智能体分别应用,包含失败计数窗口与冷却时间。

主权边界:每个智能体持有领域卡,列明 owns(自有能力)、borrows(只读借用)、forbidden(禁止操作)与 escalates_to(升级对象)。规则是智能体绝不静默调用 owns 集合之外的资源,跨域调用需显式路由。

降级模式:上游失败时降级而非崩溃。LLM API 不可用时返回缓存答案并标记 stale;工具服务不可用时跳过可选工具并标记部分完成;预算中途触顶时总结进度并排队恢复;护栏不确定时默认拒绝并转人工。重试策略为带抖动的指数退避,最多 3 次,所有改变状态的工具使用幂等键,护栏拦截不重试。

参考数据类:提供 AgentSLA 数据类,包含各预算默认值及触顶动作选项 stop、summarize_restart、escalate。可搭配 agent-guardrails 与 agent-observability 使用。

限制:具体实现细节、部署方式及与外部系统的集成步骤暂未提供。