用途
Farm3D 面向单视图关节物体的三维重建与可控三维合成。其核心目标是从单张输入图像(真实的或由扩散模型生成的)恢复出带关节结构的三维形状,并在此基础上实现可编辑、可驱动的三维资产生成。论文作者为 Tomas Jakab、Ruining Li、Shangzhe Wu、Christian Rupprecht、Andrea Vedaldi(牛津大学),发表于 3DV 2024。
主要能力
- 单目三维重建:从单张图像重建关节物体的三维形状,能够还原腿部、耳朵等细节,且未使用任何真实图像进行训练。
- 可控三维合成:生成的三维资产支持调整光照(Relighting)、在同类别模型之间交换纹理(Texture swapping),以及对形状进行动画(Animation)。
- 可控合成内容:输入既可以是真实图像,也可以是由 Stable Diffusion 合成的图像。
使用方式
根据官方文本,该方法的工作流程如下:
- 向 Stable Diffusion 提示生成某一物体类别的虚拟视角图像,用这些图像训练单目关节物体重建模型。
- 该模型将输入图像分解为关节形状、外观(反照率以及漫反射与环境强度)、视角和光照方向。
- 训练过程中还会采样合成实例视图,交由 Stable Diffusion “评判”,以引导学习。 官方页面提供论文、BibTeX 以及代码与基准(Code and Benchmark)入口,但资料中未给出具体安装命令或运行步骤,暂未提供。
适用场景
- 关节动物(如马、牛、羊)的单图三维重建研究。
- 需要从单张图像快速获得可控三维资产的三维内容创作与研究实验。
- 单视图关节物体重建方法的评测,依托团队发布的 Animodel 数据集与基准。
数据集与评测
研究提出新的三维关节动物数据集(3D Articulated Animals Dataset),用于直接评测关节动物单视图三维重建的质量。该数据集包含由专业三维艺术家制作的马、牛、羊等关节动物的有纹理三维网格,并配有真实的关节姿态。
限制
官方资料未说明该方法的商业授权、收费模式、部署平台与性能指标,暂未提供。其能力描述集中在关节动物类别与单视图重建场景,其他类别与更广泛场景的表现未在资料中说明,暂未提供。