用途:量化“扩大规模是否买到了正确的东西”,避免只靠观察双对数图来判断。可分别针对数据规模、参数量、算力(FLOPs)或批大小中的单一轴,分析指标随规模的变化。
主要能力:内置脚本 scripts/fit_scaling_law.py 可拟合幂律 y = a·x^b 与带下限的幂律 y = E + a·x^b(Kaplan/Chinchilla 形式,适用于会趋于平台的损失),报告指数与 R²,外推到目标预算,并标记资源翻倍后相对收益低于阈值(默认 2%)的收益递减拐点。
使用方式:先定义一个缩放轴与对应指标,并说明该指标是越大越好(如准确率)还是越小越好(如损失)。收集可比的运行结果:同一架构族、同一数据分布、同一评测。然后用脚本拟合,而非手工拟合。示例命令:
python scripts/fit_scaling_law.py
--x 1e6 2e6 4e6 8e6 1.6e7
--y 3.10 2.84 2.63 2.48 2.37
--metric "val loss" --lower-better --extrapolate 6.4e7
也可用 --json '{"x":[...],"y":[...],"lower_better":true,"extrapolate":6.4e7}' 传参,并用 python scripts/fit_scaling_law.py selftest 验证安装。
结果解读:指数 b 越陡(|b| 越大),说明该轴缩放收益越高,可跨轴比较指数决定投入方向;R² 低于约 0.9 时,干净的幂律可能不成立,不宜远距离外推;超过拐点后应考虑重新分配资源;外推若超出最大运行约 10 倍,误差较大,只能当作先验而非承诺。
适用场景:训练规模决策、收益递减判断、不同缩放轴之间的资源分配比较。
限制:不可比较不同数据、评测或架构族的训练设置;运行点少于 5 个时指数误差较大,应说明不确定性;外推是需要用一次更大规模运行验证的假设,不能当作实测结果报告。其他未提供的信息暂未提供。