用途:把彼此独立的 LLM 工作拆成多个并发分支同时运行,再用确定性的方式合并、投票、排序或比较输出,从而减少总耗时或提升判断质量。
主要能力:支持四种模式——分区(每个分支处理不同切片)、投票(分支独立判断同一条目)、检索(分支查询不同来源)、测试(分支运行不同检查)。要求每个分支输入稳定、输出使用同一 schema,并设置超时与重试规则。
使用方式:先识别独立单元,定义分支输入与 schema;并发运行分支并收集输出;归一化结果后按 merge / vote / rank 合并,并报告分支失败情况。合并尽量用确定性代码完成,同时限制分支数量与成本。
输出模板:Parallel Plan,含 Task、Split、Branches、Merge(Method、Failure policy、Cost cap)。
适用场景:子任务彼此隔离、合并逻辑清晰且代价低,且分支数量带来的价值大于成本时。
限制与避免:不要并行化存在隐藏依赖、分支输出被另一分支依赖、合并逻辑模糊、重复劳动或忽略部分失败的情况;分支数不应超过其价值。若步骤相互依赖,应改用 prompt chaining。官方资料未提供具体价格、平台支持等信息。