agent-orchestrator 是面向构建智能体系统的实践指南,来源为 ssheleg/agent-stack 技能,页面地址 https://www.skills.sh/ssheleg/agent-stack/agent-orchestrator。资料说明其正文控制在 4750 token 预算内,正文讲决策,机制细节放在相邻引用文件中。
用途:在搭建编排器、LLM 工具、会调用工具的聊天机器人、AI 流水线,或对 LLM 调用做计量与计费时使用。
主要能力(据资料):
- 编排器模式:向每个子智能体传入单一不可变上下文对象,携带请求、llm_router、tracker、workflow_id、已解析的供应商与模型及管道标志;子智能体不修改上下文,只返回带类型的结果。
- 工具调用循环(简单路径):先处理上下文压力,再带工具调用模型;无工具调用即为答案;追加助手轮次与结果,按 tool_call_id 归属;独立工具用 asyncio.gather 并行,有状态工具串行;耗尽时组合尽力答案。约 70% 容量注入收尾指令,约 80% 容量折叠旧轮次;令牌超限时压缩到 60% 重试一次;设最大迭代硬上限。
- 元工具:编排器工具委派给子智能体,如 query_database 以自然语言提问,由 SQL 智能体负责生成、校验与执行;工具按能力标志装配,如 has_db、has_kb、has_mcp。
- 子智能体重试与校验:在类型层面区分可重试与致命错误;校验结果形状;限制尝试次数并返回最佳部分结果;限额停止不等于等待,保留供应商时序与预算。
- 多阶段流水线(复杂路径):两层复杂度检测(先关键词启发式,再小模型);按依赖层执行而非列表顺序;checkpoint 暂停并释放工作进程。
- LLM 供应商路由:按序尝试、失败回退、统一错误层级;重试与回退需总计封顶;健康检查需定时探测;模型选择分请求、租户、系统默认三级。
- 多层记忆:会话聊天历史、按资源的工作记忆、按资源的长期学习、按项目的洞察,生命周期各异。
- 自学习反馈:学习须来自失败与成功尝试的对比,不能只来自单次成功运行。
- 可观测性:单一事件总线,每步一个事件,答案以分块流式输出;事件带单调 id 以支持重连续传。
- 动态系统提示词:与工具列表在同一次装配中按实际能力构建,避免描述不存在的工具。
- 上下文工程:压缩是阶梯,先清理旧工具结果、折叠超大块、压缩消息,最后才付费调用摘要器;不得孤立 tool_use;状态以类型化块跨边界传递。
- 把工作视为图:边要类型化(数据、控制、授权、资源),按层执行,并行层在汇聚前需检查器。
限制:资料未提供具体安装命令、平台要求、收费方式或效果数据;部分章节为原文目录索引,具体机制需查阅其引用文件。