SuperAPI AI 工具集

fine-tuning-openvla-oft

通用与其它

查看项目

更新于 10-15 19:53

技能介绍

用途:基于官方 openvla-oft 代码库,对 OpenVLA-OFT 与 OpenVLA-OFT+ 策略进行微调与评估,用于带视觉与语言条件的机器人动作生成。

主要能力:OFT 用专用连续动作头(L1 回归或扩散)替代标准 OpenVLA 的离散动作分箱,主干冻结并通过 LoRA 适配;OFT+ 额外启用 FiLM 条件化并使用 3 路图像(高位+左右腕),面向 ALOHA 真机;OFT 使用 2 路图像,面向 LIBERO 仿真。支持 LoRA 合并、RLDS 数据集训练、LIBERO 与 ALOHA 评估。

使用方式:克隆 https://github.com/moojink/openvla-oft.git,按官方步骤建 conda 环境(Python 3.10、PyTorch 2.2.0),pip install -e . 并安装 flash-attn==2.5.5。LIBERO 评估示例:python experiments/robot/libero/run_libero_eval.py --pretrained_checkpoint moojink/openvla-7b-oft-finetuned-libero-spatial --task_suite_name libero_spatial --center_crop True --num_trials_per_task 50 --seed 7。微调用 torchrun 调用 vla-scripts/finetune.py,LoRA 合并用 vla-scripts/merge_lora_weights_and_save.py。ALOHA 需先预处理数据、注册 RLDS 配置,再启动 vla-scripts/deploy.py 服务端与 run_aloha_eval.py 客户端。

适用场景:需要官方 LIBERO/ALOHA 工作流、偏好 LoRA 适配 openvla/openvla-7b、或需要连续动作头时。其他 VLA 架构(如 pi0)或通用 LLM 微调应选替代方案。

限制:训练与推理的动作头、FiLM、图像路数、proprio、LoRA rank、裁剪等标志必须一致,否则会静默失败;LIBERO 微调建议 8×A100(约 27GB/GPU),ALOHA 约 35GB/GPU;结果依赖 Python 3.10.14、PyTorch 2.2.0、A100 与定制 Transformers 分支。具体收费与价格暂未提供。