用途:为 Python 强化学习实现提供最佳实践指导,基于 Gymnasium >= 1.0 与 Stable-Baselines3 >= 2.x 生态。Gymnasium 已取代 OpenAI Gym 成为标准环境接口;SB3 适合原型开发,RLlib 适合生产与分布式训练,CleanRL 适合研究。
主要能力:按动作空间与需求选择算法(离散任务可用 DQN、PPO、A2C;连续控制可用 SAC、TD3、PPO);提供自定义 Gymnasium 环境模板、Optuna 超参搜索示例、训练监控与调试方法,以及 ONNX/TorchScript 部署思路。
使用方式:核心流程为定义环境、校验环境、选择算法、训练前检查、简单起步、监控训练、调试、调参、评估、部署。附带三个可直接运行的脚本:python scripts/validate_env.py CartPole-v1(或 module.path:EnvClass)、python scripts/pretrain_check.py CartPole-v1 --episodes 20、python scripts/eval_report.py CartPole-v1 --model ppo_cartpole.zip --algo ppo --episodes 100 --output eval_report.md。validate_env.py 检查失败会返回非零退出码,可用作 CI 门禁;eval_report.py 不带 --model 时评估随机策略作为基线。
依赖安装:pip install gymnasium stable-baselines3 tensorboard optuna;Atari 需 pip install gymnasium[atari] gymnasium[accept-rom-license];MuJoCo 需 pip install gymnasium[mujoco]。
适用场景:离散或连续控制任务、自定义仿真环境、超参调优、训练问题排查、策略部署。
限制与注意:需避免观测未归一化、动作空间处理错误、忽略随机种子、训练与评估共用环境、未监控熵导致策略崩溃、稀疏奖励未做塑形、学习率过大或过小等问题。资料未提供具体收费、平台支持范围与效果数据。