用途
本技能面向 NVIDIA Cosmos Policy 的评测复现,支持在 LIBERO 和 RoboCasa 两个机器人操作仿真基准上运行官方公开评测模块。它覆盖从空白机器搭建、依赖安装、无头 GPU 渲染配置到冒烟评测、全量基准运行和结果解析的完整流程。
主要能力
- LIBERO 评测:通过
cosmos_policy.experiments.robot.libero.run_libero_eval运行,支持 libero_spatial、libero_object、libero_goal、libero_10 四个任务套件。 - RoboCasa 评测:通过
cosmos_policy.experiments.robot.robocasa.run_robocasa_eval运行,需先安装 Cosmos 兼容的 RoboCasa fork 并配置厨房资产。 - 无头 EGL 渲染配置:统一设置 CUDA_VISIBLE_DEVICES、MUJOCO_EGL_DEVICE_ID、MUJOCO_GL=egl、PYOPENGL_PLATFORM=egl。
- 推理性能剖析与结果日志校验。
- 官方参考成功率:LIBERO-Spatial 98.1%、LIBERO-Object 100.0%、LIBERO-Goal 98.2%、LIBERO-Long 97.6%、LIBERO 平均 98.5%、RoboCasa 平均 67.1%(数值依赖检查点、任务套件、随机种子与仿真器配置)。
使用方式
- 克隆 https://github.com/NVlabs/cosmos-policy.git,按 SETUP.md 构建并进入官方 Docker 容器。
- 在容器内同步依赖:
uv sync --extra cu128 --group libero --python 3.10(RoboCasa 用--group robocasa)。 - 导出 EGL 与缓存相关环境变量。
- 以
uv run --extra cu128 --group libero --python 3.10 python -m cosmos_policy.experiments.robot.libero.run_libero_eval ...运行冒烟评测(1 trial),通过后扩展到 50 trials。 - RoboCasa 需额外克隆并安装 https://github.com/moojink/robocasa-cosmos-policy.git,执行 setup_macros 与 download_kitchen_assets,再用 run_robocasa_eval 运行单任务冒烟评测。
- 从
cosmos_policy/experiments/robot/libero/logs/等日志目录解析 JSON 结果,确认 Success rate。
适用场景
- 在 LIBERO 或 RoboCasa 上评测 NVIDIA Cosmos Policy。
- 剖析 Cosmos Policy 的推理延迟与吞吐。
- 在 GPU 集群上为机器人仿真配置无头 EGL 渲染。
限制
- 不适用于从零训练或微调 Cosmos Policy(应使用官方训练文档)。
- 不适用于 OpenVLA 类策略(应使用 fine-tuning-openvla-oft)。
- 不适用于 Physical Intelligence pi0 模型(应使用 fine-tuning-serving-openpi)。
- 不涉及真实机器人评测,仅限仿真。
- 计算要求参考:单卡 A40/A100、约 16 GB 显存(LIBERO)/约 18 GB(RoboCasa);LIBERO 冒烟评测约 5-10 分钟,全量评测约 2-4 小时,RoboCasa 单任务约 10-15 分钟,全任务约 4-8 小时。
- 主机 Python 出现二进制兼容问题时应以官方容器为准,不要假定可重建匹配环境。
- 复现成功率需固定任务名、对象划分、种子与试验次数,并记录确切命令与环境。