SuperAPI AI 工具集

evolving-with-swarms

编程与开发

查看项目

更新于 11-18 23:35

技能介绍

evolving-with-swarms 是一个面向程序自动改进的技能,核心思路是用多轮低成本的模型群体(swarm)迭代,让程序在自动评分器下逐步变好。每一轮中,脚本 scripts/evolve.py 并行运行 K 个 swarm;每个 swarm 包含 N 个提议者调用,每个提议者读取一个父程序和一段聚焦提示(focus x thinking-style),回复一个不超过 45 词的想法;随后一个写作者调用将这些想法和父程序整合成一个完整程序。程序生成后立即由用户提供的评估器打分,并加入档案库,供下一轮选择父程序:精炼最好的两个之一、组合最好的十个中的三个、从任意位置探索两个、或从初始程序重新开始。所有模型调用通过无头 claude -p 执行,按列表价格从 modelUsage 计费,并受美元上限约束。

该设计是 SwarmEvolve(Jiang 和 Karniadakis, arXiv 2611.08483)的纯文本版本,原版智能体在开放模型的激活内部思考,而 API 模型不暴露这一层。

适用场景:当预算较小或目标是“便宜地变好”时使用 swarm。根据 2026-11-09 的测量,在三个问题(圆填充、六边形填充、Heilbronn 三角形)上,swarm 达到参考值 99% 的成本显著低于 Sonnet 循环:圆填充 $0.013–0.019 对 $0.32–0.44,六边形 $0.035–0.060 对 $0.53–0.58,Heilbronn $0.09–0.50 对 $0.77–1.02;在 $0.25 时 swarm 的最佳成绩高于所有配对的 Sonnet 种子;在 $3 时最终分数相同,swarm 在 60 分钟约 $1 停止,Sonnet 循环在 7–42 分钟达到相同最终成绩。当最后 0.1% 很重要、预算充足且实际时间关键时,Sonnet 循环在问题的最佳努力水平下更快达到相同位置。

不适用场景:需要驱动数百个失败测试变绿时用 swarming-to-green;为一个子代理或级联选择模型或努力水平时用 agent-routing;许多独立任务且有可检查输出而非改进单个程序时用 dispatching-subagents(无头运行器);质量只能由人或评判模型评分时,没有评分器就没有搜索,应先写评分器或使用评判循环;在 claude.ai 聊天中没有 claude 二进制时用 orchestrating-chat-agents。

中途放弃运行的情况:status 显示 rejected_above_max 上升或最佳分数高于问题允许的任何值,说明评分器有漏洞且搜索正在优化漏洞;最佳分数连续十轮持平且 rounds.jsonl 显示每个精炼 swarm 都父程序相同,说明档案库已收敛,更多轮次无益;last_quota.seven_day 超过约 0.40,网关会在 0.45 停止。

设置:创建问题目录,复制 assets/example/ 并替换四个文件:problem.md(任务说明,包括已知参考值)、initial_program.py(有效但较弱的起始程序)、evaluator.py(evaluate(program_path) -> 数字和字符串字典,分数在 score_key 下,默认 combined_score,失败时带 error 键)、config.toml(入口函数名、模型看到的接口文本、预算)。手动给初始程序打分并读取字典,分数为 0 且无错误或缺少 score_key 说明契约错误,需先修复。根据可证明的边界(已知最优值、面积或体积边界)设置 score_max,略高于边界;高于它的分数计为 0 并标记。仅在无边界时留空,并独立复核最佳程序。选择沙箱:评估器会导入并运行模型编写的代码。Claude Code on the web 使用 claude-workspace hub 的 jail,配置 [sandbox] prefix 和 chown_uid = 65534,并将 --run-dir 放在 /tmp/jail/<name>/ 下;桌面 Docker 使用 prefix = ["docker", "run", "--rm", "--network=none", "-v", "{run_dir}:{run_dir}", "python:3.12-slim"] 并添加所需依赖;仅在上述例外情况下不使用沙箱。检查 CLI:which claude(桌面版捆绑 CLI 可能不在 PATH,设置 EVOLVE_CLAUDE_BIN),然后运行离线自测 python3 scripts/test_evolve.py,应输出三行 "ok",约 3 秒,无模型调用。

运行:S=/mnt/skills/user/evolving-with-swarms/scripts;python3 $S/evolve.py run problem/config.toml --run-dir RUN --seed 1 --cap 1.0 --wall 60 > RUN.log 2>&1。用 Bash run_in_background: true 启动并结束回合。完成行是 done -> RUN/summary.json;重新启动相同命令会从 RUN/archive.json 恢复并保留已花费美元。用 python3 $S/evolve.py status RUN 检查。在 Claude Code on the web 中后台任务两小时后停止,每次启动保持 --wall 低于 110 分钟,或在完成通知后重新启动。

可调参数([swarm], [budget]):K, N 默认 4, 8(K=2,N=16 和 K=8,N=4 在圆填充上没有更好;N=0 几乎持平);proposer_effort 默认 low(下限;Haiku 仍会在约三分之一调用中思考);writer_effort 默认 medium(low 在圆填充上有帮助,在六边形和 Heilbronn 上有害);writer_model 默认 haiku(sonnet 一个种子:圆填充 99% 花费 $0.11,介于 swarm 和循环之间);cap_usd, wall_minutes 默认 1.0, 60(swarm 在 4 vCPU 上每小时花费 $0.9–1.4)。在新问题上,先以相同上限运行默认和 N=0 对照,再进行长运行。

读取结果:RUN/summary.json 包含 programs、best_score、spent、usd_to(程序首次得分 0.99、0.999、0.9999 时的美元)、calls_by_role、rejected_above_max、duplicates、no_code、last_quota。RUN/best_program.py 是最高程序。events.jsonl 每次评估一行,含当时花费,是应绘制的曲线;rounds.jsonl 有每个 swarm 的父程序和想法。

常见失败模式:best_score 远高于参考值或 rejected_above_max > 0 说明评分器接受了不该接受的东西,读取 RUN/r*/s*/prog.py 中的问题程序,修复评估器或收紧 score_max,并开始新运行,因为档案库已被污染;rounds.jsonl 中每个精炼 swarm 都父程序同一个损坏程序说明评分器漏洞使其领先,同样处理(2026-11-09 诊断:一个六边形运行最后 40 分钟在精炼一个被评分器错误评为 3.9e9 的程序);no_code 上升说明写作者回复中没有定义入口的围栏代码块,检查配置中的入口与接口文本和初始程序匹配;duplicates 接近写作者调用数说明写作者原样返回父程序,通常因为看不到分数低的原因,将有用指标加入 show_metrics 或提高 writer_effort;评估错误 rc=125 或 rc=2 说明 jail 无法隔离(125)或 nobody 无法进入运行目录(2),将运行目录放在 /tmp/jail/<name>/ 下并设置 chown_uid = 65534;每个程序花费远高于一美分说明网关账本按角色显示成本,2026-11 账本中提议者占 30–39%,写作者占其余,每个 claude -p 调用自带约 1,370 token,许多小调用成本高于提示所示,减少提议者(或 N=0)和写作者努力是杠杆;pauses.jsonl 出现且运行变慢说明账户五小时窗口超过 90%(非 Haiku 调用)或 97%(Haiku),网关等待重置且不计入运行时钟,除非紧急否则无需处理;运行以 stopped_by starting quota: 停止说明七天利用率达到 0.45,本周停止启动运行或有意提高 gateway.py 中的 week_stop。

验证:python3 $S/test_evolve.py 离线测试运行、恢复、状态、分数边界、沙箱前缀;python3 $S/evolve.py status RUN 检查 programs > 1、spent <= cap + 一轮、best_score <= score_max。在沙箱中自行用评估器重新给 RUN/best_program.py 打分并与 best_score 比较。使用随机性或时间预算优化的程序重新打分会更低;2026-11-09 三个六边形程序中有两个如此。坏成功是评估器不应给出的高分:在报告记录前,用独立条件(更严格的几何测试、已知边界)检查最佳程序。

已诊断失败:2026-11-09 六边形填充,OpenEvolve 的库存六边形评估器将外边长 1e-9 评为 3.9e9,原因是对未归一化叉积的绝对容差;信号是分数比参考值高九个数量级;通过面积边界修复,score_max 就是为此存在。2026-11-09 成本核算,claude -p 在 FORCE_PROMPT_CACHING_5M=1 之前以 1 小时 TTL 写入提示缓存(2 倍输入),网关设置该变量;信号是账本中 cacheCreationEphemeral1hInputTokens 非零。2026-11-09 努力,MAX_THINKING_TOKENS=0 和 alwaysThinkingEnabled: false 没有阻止 Haiku 5.5 思考,低于其需求的输出上限会使调用失败但仍计费;努力 low 是下限,不要设置过紧的 max_tokens。2026-11-09 使用窗口,十个并行运行在约 70 分钟内用掉五小时窗口的大部分,旧网关在 90% 中止运行;现在会暂停并恢复。