SuperAPI AI 工具集

SteptronOss

SteptronOss 是由 stepfun-ai 开源的轻量级、AI 原生大语言模型训练框架,面向快速迭代、可复现实验和模块化配置,覆盖 SFT、RLVR 和评估工作流。它仅依赖 PyTorch 即可运行,同时支持算子级替换以加速。特色包括配置驱动实验与动态校验(cfshow、sanity_check)、多任务编排与灵活启动工具,以及可扩展的数据/优化器/模型栈。适合研究人员和工程师开展大模型训练、微调与强化学习实验。

访问官网

工具介绍

SteptronOss(StepTronOSS)是一个面向大规模语言模型的轻量级、AI 原生训练框架,设计目标是支持快速迭代、可复现实验以及跨 SFT、RLVR 和评估工作流的模块化配置。它仅依赖 PyTorch 即可运行,同时也支持算子级替换以实现加速。

用途与定位:该框架主要用于大语言模型的训练与迭代研究,覆盖监督微调(SFT)、可验证奖励强化学习(RLVR)以及评估等典型工作流。它强调“AI 原生”工作方式:模块化架构便于验证与迭代开发,并提供 AGENTS.md 指导智能体参与代码改动,属于面向模型训练与实验的基础设施型工具。

主要能力:

  • 配置驱动的实验与动态校验,提供 cfshow 和 sanity_check 工具;
  • 多任务编排,配合灵活的启动工具链;
  • 可扩展的数据、优化器与模型栈,便于快速的研究迭代;
  • 运行时环境支持分布式集合点:通过共享文件系统目录为每个实验启动一个 Redis 服务器,STEPTRON_MEET_DIR 用于存放发布 Redis 服务端口的集合点文件,CANNOT_BE_REDIS_SERVER=1 用于标记不得启动 Redis 的 rank;
  • 多节点启动脚本生成:使用 tools/build_scripts.py 依据 resource_cfg.task_specs 生成每个副本的 shell 脚本,脚本索引在各节点类型内累计(例如所有 GPU 任务共享一个 0..N 索引范围),每个脚本导出任务环境变量(包括任务级 EXP_ID 和 NNODES)并调用由 mp_run 组装的命令,额外 CLI 参数会像 mp_run.py 一样透传给实验;
  • 优化内核:仅在需要最大化 GPU 性能和内核级加速时使用,需手动安装并在代码中启用(可一次性设置所有优化),参考配置包括 Qwen3 8B:playground/pretrain/qwen3/qwen3_8.py 和 Step3.5 Flash:playground/pretrain/step3p5/step3p5_flash.py;
  • 提供 RLVR 实现与 Triton 内核实现。

使用方式:

  • 推荐使用 uv 虚拟环境;若非 uv 环境,命令前需加 uv run 前缀。
  • 实验总览与健全性检查、运行实验等详见文档:启动指南(英文)docs/LAUNCH_EXPERIMENTS.md、启动指南(中文)docs/LAUNCH_EXPERIMENTS_ZH.md;SFT 数据准备(中文)docs/SFT_DATA_PREPARATION.md、SFT 数据准备(英文)docs/SFT_DATA_PREPARATION_EN.md;API 模块文档 docs/MODULES.md。
  • 多节点启动脚本通过 tools/build_scripts.py 生成。
  • 核心原则:保持配置无状态,由运行时对象携带状态;在类级别声明配置结构,在 init 中填充值;使用 Ref("..path") 进行跨节点关联;调用 sanity_check() 和 to_dict() 完成校验与序列化。

适用场景:适合需要进行大规模语言模型监督微调、可验证奖励强化学习以及评估实验的研究与工程团队,尤其是希望以配置驱动方式快速迭代实验、保证实验可复现、并对训练栈进行模块化扩展的场景。

限制与说明:优化内核需要手动安装并按参考配置启用,仅面向有 GPU 性能需求的用户;分布式集合点依赖对全部节点可见且可写的共享目录,若所有 rank 都设置 CANNOT_BE_REDIS_SERVER=1,集合点最终会超时。关于收费、价格、平台或具体性能数据,现有资料暂未提供。