用途:Autoresearch 是一个自主 AI 研究智能体,用于对 LLM 训练代码做自动化实验优化。它以 opencode 作为代理,围绕 train.py 反复提出并实现实验想法、运行训练、评估结果,保留改进、丢弃失败,目标是把 val_bpb 降到尽可能低。
主要能力:可修改 train.py 中的架构(Transformer 层、注意力机制)、优化器(Muon、AdamW、学习率)、超参数(批大小、warmup、LR 调度)、模型规模(DEPTH、宽度、头数)、激活函数(ReLU、GeLU、SiLU)与归一化(RMSNorm 设置)。每次实验约 5 分钟,预期每小时约 12 次实验。
使用方式:一次性准备执行 uv sync 与 uv run prepare.py;创建实验分支 git checkout -b autoresearch/$(date +%b%d);先跑基线 uv run train.py 并记录到 results.tsv。自主循环为:修改 train.py、git add -A && git commit -m "exp: description"、uv run train.py > run.log 2>&1、grep "^val_bpb:" run.log、记录 results.tsv,改进则保留,变差则 git reset --hard HEAD~1,然后重复。
适用场景:适合在固定时间预算内自动搜索训练配置、调参与调试训练发散等问题。
限制:训练须在约 5 分钟内完成且不能崩溃;不得修改 prepare.py,不得新增依赖;VRAM 增加仅在 val_bpb 改善时可接受;results.tsv 不提交;代理被要求完全自主、不向人类请求继续许可,直到人类停止。资料未提供收费、价格与平台信息。