SuperAPI AI 工具集

openclaw-rl-training

智能体与模型

查看项目

更新于 10-16 07:27

技能介绍

用途:OpenClaw-RL 是面向个性化 AI 智能体的全异步强化学习框架,把真实多轮对话转成训练轨迹,在不中断使用的前提下后台持续优化策略;同时支持终端、GUI、SWE、工具调用等智能体的可扩展 RL。

主要能力:架构由四个互不阻塞的异步循环组成——Agent Serving(OpenClaw 兼容 API 提供 rollout)、Rollout Collection(捕获多轮对话为训练轨迹)、PRM/Judge Evaluation(用 next-state 反馈打分,可选多数投票)、Policy Training(经 slime 或 Tinker 做 GRPO/OPD/Combine 训练)。提供三种学习范式:Binary RL(GRPO)、On-Policy Distillation(OPD)与组合方法(推荐)。支持 LoRA、自定义损失/rollout/生成/奖励模型插件、断点续训与评估。

使用方式:克隆仓库后安装依赖:git clone https://github.com/Gen-Verse/OpenClaw-RL;cd OpenClaw-RL;pip install -r requirements.txt;cd slime && pip install -e . && cd ..;可选 pip install sglang。通过环境变量配置模型、检查点、rollout、优化器与 GPU 划分,再运行对应脚本,如 bash openclaw-rl/run_qwen3_7b_openclaw_rl.sh、bash openclaw-opd/run_qwen3_7b_openclaw_opd.sh、bash openclaw-combine/run_qwen3_7b_openclaw_combine.sh。Track 2 提供 terminal-rl、gui-rl、swe-rl、toolcall-rl 脚本。API 服务可用 python -m openclaw.server 启动,并作为 OpenAI 兼容接口调用。

适用场景:需要基于真实对话反馈做个性化智能体训练、或对终端/GUI/SWE/工具调用智能体做 RL 的研究与工程场景。

限制:资料未提供具体收费、价格与效果数据;训练需自备模型、数据与 GPU 资源,显存不足可用 LoRA 或减少并行环境,具体版本兼容与故障处理需参考仓库文档。