NVIDIA Cosmos 是面向物理 AI 的开放平台,提供世界模型、数据集和工具,供开发者构建机器人、自动驾驶、智能基础设施等应用。按照官方描述,它旨在为物理 AI 开发者提供更好的数据、更好的环境、更好的起点和更好的工具。
用途定位 Cosmos 聚焦物理 AI(Physical AI)场景,目标用户是机器人、自动驾驶车辆和智能基础设施等领域的开发者。当前模型家族 Cosmos 3 是一套全能模态(omnimodal)世界模型,基于统一的 Mixture-of-Transformers 架构,官方将其概括为“一个模型家族,能看、推理、模拟并行动”。
主要能力与模型家族 Cosmos 3 提供三个基础模型,覆盖不同的部署层级,共享同一种全能模态架构。仓库中还包含 cosmos3-examples 集合中的示例检查点,这些是基础模型后训练后的变体,用于展示通过 Cosmos Framework 进行后训练能实现何种特化,官方说明它们属于能力演示,并非产品线的一部分。此外,官方发布时间线显示:2026 年 7 月发布 Cosmos3-Edge,面向设备端实时部署的 4B 层级(Jetson AGX Orin / Thor / RTX Pro 6000);2026 年 5 月发布 Cosmos 3,并提供 Hugging Face 集合与技术报告。
仓库分工与工具链 该 GitHub 仓库是模型的所在地,涵盖探索、运行和评估 Cosmos 所需的全部内容。模型训练(SFT、LoRA、RL、蒸馏等)在 Cosmos Framework 中进行;数据整理使用 Cosmos Curator;模型输出评估使用 Cosmos Evaluator。完整的 I/O 规格、生成设置和支持的动作体现(action embodiments)见模型参考文档。
使用方式与运行环境 首次运行会下载 16B 检查点,扩散步骤计算量大,因此步骤耗时长属正常现象。运行代码前,需先申请 nvidia/Cosmos-1.0-Guardrail 的访问权限并接受其访问条件;获得授权后,使用同一账号的 Hugging Face 读取令牌登录,仅登录并不会获得访问权限。Cosmos 3 可在 Diffusers、Transformers、vLLM、vLLM-Omni、SGLang、TensorRT-LLM 和 NIM 上运行,具体后端选择见环境搭建指南。图像、声音模式及完整选项可参考音视频 cookbook。
适用场景与限制 适用于探索、运行和评估物理 AI 世界模型,包括生成视频等任务,面向机器人、自动驾驶、智能基础设施等方向。限制方面,官方明确指出 Cosmos 3 在长时、高分辨率或物理复杂的输出中可能产生伪影,例如时间不一致、物体形变、动力学不合理等;安全关键应用需要额外的验证和系统级安全分析;生成默认启用护栏功能。
社区与许可 问题与想法可前往 Discussions,缺陷报告提交至 Issues,代码贡献见 CONTRIBUTING.md。源码与模型以 OpenMDW-1.1 发布,定制许可可联系 cosmos-license@nvidia.com。项目可能下载第三方开源软件,使用前需审阅其许可证。