SuperAPI AI 工具集

evaluating-cosmos-policy

智能体与模型

查看项目

更新于 10-30 07:48

技能介绍

用途

本技能面向 NVIDIA Cosmos Policy 的评测复现,支持在 LIBERO 和 RoboCasa 两个机器人操作仿真基准上运行官方公开评测模块。它覆盖从空白机器搭建、依赖安装、无头 GPU 渲染配置到冒烟评测、全量基准运行和结果解析的完整流程。

主要能力

  • LIBERO 评测:通过 cosmos_policy.experiments.robot.libero.run_libero_eval 运行,支持 libero_spatial、libero_object、libero_goal、libero_10 四个任务套件。
  • RoboCasa 评测:通过 cosmos_policy.experiments.robot.robocasa.run_robocasa_eval 运行,需先安装 Cosmos 兼容的 RoboCasa fork 并配置厨房资产。
  • 无头 EGL 渲染配置:统一设置 CUDA_VISIBLE_DEVICES、MUJOCO_EGL_DEVICE_ID、MUJOCO_GL=egl、PYOPENGL_PLATFORM=egl。
  • 推理性能剖析与结果日志校验。
  • 官方参考成功率:LIBERO-Spatial 98.1%、LIBERO-Object 100.0%、LIBERO-Goal 98.2%、LIBERO-Long 97.6%、LIBERO 平均 98.5%、RoboCasa 平均 67.1%(数值依赖检查点、任务套件、随机种子与仿真器配置)。

使用方式

  1. 克隆 https://github.com/NVlabs/cosmos-policy.git,按 SETUP.md 构建并进入官方 Docker 容器。
  2. 在容器内同步依赖:uv sync --extra cu128 --group libero --python 3.10(RoboCasa 用 --group robocasa)。
  3. 导出 EGL 与缓存相关环境变量。
  4. 以 uv run --extra cu128 --group libero --python 3.10 python -m cosmos_policy.experiments.robot.libero.run_libero_eval ... 运行冒烟评测(1 trial),通过后扩展到 50 trials。
  5. RoboCasa 需额外克隆并安装 https://github.com/moojink/robocasa-cosmos-policy.git,执行 setup_macros 与 download_kitchen_assets,再用 run_robocasa_eval 运行单任务冒烟评测。
  6. 从 cosmos_policy/experiments/robot/libero/logs/ 等日志目录解析 JSON 结果,确认 Success rate。

适用场景

  • 在 LIBERO 或 RoboCasa 上评测 NVIDIA Cosmos Policy。
  • 剖析 Cosmos Policy 的推理延迟与吞吐。
  • 在 GPU 集群上为机器人仿真配置无头 EGL 渲染。

限制

  • 不适用于从零训练或微调 Cosmos Policy(应使用官方训练文档)。
  • 不适用于 OpenVLA 类策略(应使用 fine-tuning-openvla-oft)。
  • 不适用于 Physical Intelligence pi0 模型(应使用 fine-tuning-serving-openpi)。
  • 不涉及真实机器人评测,仅限仿真。
  • 计算要求参考:单卡 A40/A100、约 16 GB 显存(LIBERO)/约 18 GB(RoboCasa);LIBERO 冒烟评测约 5-10 分钟,全量评测约 2-4 小时,RoboCasa 单任务约 10-15 分钟,全任务约 4-8 小时。
  • 主机 Python 出现二进制兼容问题时应以官方容器为准,不要假定可重建匹配环境。
  • 复现成功率需固定任务名、对象划分、种子与试验次数,并记录确切命令与环境。