用途:Stable Baselines3(SB3)是基于 PyTorch 的强化学习算法库,用于训练 RL 智能体、创建自定义环境、实现回调并优化训练流程,提供统一 API,适用于标准 RL 实验。当前上游为 SB3 2.8.0(2026 年 4 月),文档位于 stable-baselines3.readthedocs.io。
主要能力:内置 PPO、SAC、DQN、TD3、DDPG、A2C 等算法;支持向量化环境、回调监控(EvalCallback、CheckpointCallback 等)、模型保存加载、策略评估与视频录制、学习率调度、字典观测的多输入策略,以及 HER 目标条件任务。相关项目包括 sb3-contrib(实验性算法)、RL Baselines3 Zoo(预训练智能体与超参数)、SBX(JAX 实现)。
使用方式:安装需 Python 3.10+ 与 PyTorch>=2.3。基础安装:uv pip install "stable-baselines3>=2.8";含额外依赖:uv pip install "stable-baselines3[extra]>=2.8"(zsh 下需给方括号加引号);MuJoCo 基准:uv pip install "gymnasium[mujoco]"。典型训练流程为 gym.make 创建环境、初始化模型(如 PPO("MlpPolicy", env))、model.learn(total_timesteps=...)、model.save 与 PPO.load 加载。
限制与注意:total_timesteps 是下限,实际可能超出;模型不保存回放缓冲区;自定义环境需继承 gymnasium.Env 并实现 reset/step 等,图像观测须为 np.uint8 且在 [0,255],不支持起始值非 0 的 Discrete/MultiDiscrete 空间;训练前建议用 check_env 校验;向量化环境 API 与普通环境不同(reset 仅返回观测,step 返回 4 元组并自动重置)。