SuperAPI AI 工具集

kev-modal-study

智能体与模型

查看项目

更新于 10-27 11:48

技能介绍

Kev on Modal 研究流程技能,所有 GPU 工作均通过仓库中的 modal_app.py 执行,文档明确要求不要在本地训练大模型。

用途 该技能面向在 Modal 上运行 Kev 训练研究、未训练基座探针、远程基准测试和新基座冒烟检查的场景。训练试验(study)以计划文件 experiments/<name>.json 定义,允许的键来自 kev/experiment.py 的 DEFAULTS、CHOICES,以及 base、base_revision、train_sources、anchor*、init_from、data、replay 等。

主要能力与使用方式

  1. 计划校验:先用 uv run python -c 调用 load_plan 在本地校验计划文件。若 kev/*.py 有改动,需 uv run modal deploy modal_app.py 部署。启动命令为 uv run modal run modal_app.py::study --suite ... --plan ... --name ... 等,试验名不可变,失败需换新名;超时上限 28800 秒,单研究预算上限 250 美元。
  2. 监控与拉取:用 modal app logs kev-research 过滤日志,或用 spawn.json 中的 FunctionCall.from_id 查询各试验状态。完成后用 modal run modal_app.py::pull --name X 拉取 result.json、provenance.json、checkpoint、transfer/rows.json 等;全权重分片与恢复点留在卷上,--weights 可全部复制。随后可用 scripts/compare_q35.py 或 kev.metrics.paired_bootstrap 做配对比较。
  3. 锁定测试:每个候选运行一次,通过 modal run --detach modal_app.py::locked_test 执行,结果写入卷 /locked/<candidate>/summary.json;27B 需指定 --gpu H200、更长超时和更大内存。
  4. 轮次(registered experiments):轮次规格位于 experiments/rounds/rN.json,需先提交再训练;用 kev.rounds validate 校验、launch 启动、watch 监控并自动拉取与读取,confirm 做确认;kev.autoresearch session 可串联多个轮次并在花费上限处停止,但不做确认。
  5. 探针、远程基准与适配检查:这些以附加模式运行,无需部署。base_probe 做零样本字母 logits 探针;benchmarks 可对任意检查点在任意套件或 --data JSONL 上评测,jobs 按 run@suite@name[@flags] 解析;sft_probe 做全权重训练探针,报告显存、步时、吞吐与成本估算;smoke_base 检查新基座的 LoRA 占用与步时。
  6. 全权重研究与快照:计划设 full_ft: 1、weights_dtype: bf16;快照在优化步的 0.25、0.5、0.75 处写出,可用 snapshot_hub_repo 镜像到私有 Hub 仓库,mirror_snapshots 可列出并上传。

适用场景 适用于需要云端 GPU 完成训练试验、评测、探针和成本评估的模型研究流程,尤其是需要断线可恢复、按预算控制花费、对比多个检查点与基座的实验管理。

限制与注意事项 文档列出诸多坑:部署后出现「deployed app has different kev/*.py」需停止空闲容器再重启;不要把 modal run 输出经 rg/head 过滤以免隐藏 SystemExit;本地失败时试验可能已在云端生成,重启前先 modal container list,且不可用同名重启;Modal 约每分钟 3 个以上 detached 应用创建会触发限流;超时的全权重试验不会保存结果,需用 resume 续跑;基座越大越需足够主机内存;H200 仅在部署时以 KEV_GPU=H200 固定。文档未提供定价页面之外的信息,仅给出 H100 约 3.95 美元/小时及预算上限等成本相关数值。