SuperAPI AI 工具集

agent-as-a-router-coding

编程与开发

查看项目

更新于 10-16 09:48

技能介绍

ACRouter 是一个智能体式模型路由系统,用于为编程任务选择后端模型,兼顾性能与成本。它按层级(便宜到强)路由问题,并用验证器反馈与升级策略判断是否继续;当某个方案通过验证即停止。该技能覆盖安装、基准复现、运行时集成与自定义推理模式。

主要能力包括:智能体式路由(先便宜、失败升级)、CodeRouterBench 公开基准(含 ID 同分布与 OOD176 异分布任务)、验证器驱动(用测试执行或静态分析校验后再升级)、成本性能权衡,以及运行时集成(提供 Claude Code Router、cc-switch 及兼容 OpenRouter 的通用 API 插件)。

安装方式:克隆仓库后创建 conda 环境(python=3.11),升级 pip/setuptools/wheel,安装 requirements.txt 并以可编辑模式安装,运行单元测试验证:

git clone https://github.com/LanceZPF/agent-as-a-router.git cd agent-as-a-router conda create -n acrouter python=3.11 -y conda activate acrouter python -m pip install --upgrade pip setuptools wheel python -m pip install -r requirements.txt python -m pip install -e . python -m unittest discover -s tests

基准复现: python scripts/run_id.py --output-dir outputs/tmp/id python scripts/run_acrouter_ood176.py --output-dir outputs/tmp/acrouter_ood176 python scripts/run_baselines_ood176.py --output-dir outputs/tmp/baselines_ood176

可下载 Hugging Face 资源(最小数据集或附带训练好的路由模型): python scripts/download_hf_assets.py --minimal --dataset-dir .hf/CodeRouterBench python scripts/download_hf_assets.py --minimal --with-router-model --dataset-dir .hf/CodeRouterBench --model-dir .hf/router_model

运行时推理使用 ACRouter 类,配置 candidate_models、cheap_chain、escalate_to、k 等参数,并需自行提供 call_model 与 verify 两个回调;run_with_verifier 返回包含 chosen_model、final_response、total_cost、verified、attempt_history 的决策对象。示例环境变量为 OPENROUTER_API_KEY。

适用场景:多模型编码任务的成本优化、基准评测对比 Oracle/单模型/轮询等基线、按任务维度区分路由,以及对接 Codex、Claude Code、Opencode 等商业 CLI 工具。

限制与注意:需自备模型 API 密钥与可用验证器;仓库、数据集与模型下载依赖外部网络;官方未提供的功能、价格或效果数据暂未提供;使用时应遵循项目文档与许可。