SuperAPI AI 工具集

一键直达

Farm3D 是牛津大学团队提出的一种单视图三维重建与可控三维合成方法,论文发表于 3DV 2024。该方法不依赖真实动物图像训练,而是从基于二维扩散模型(如 Stable Diffusion)的图像生成器中获取“免费”虚拟监督信号,从头训练单目关节物体重建网络。用户只需输入一张真实或生成的动物图像,模型即可在数秒内生成可控的三维资产,支持重打光、纹理交换与动画等操作。研究同时发布了 Animodel 三维关节动物数据集与基准,包含马、牛、羊等专业制作的有纹理三维网格与真实关节姿态。

访问官网

工具介绍

用途

Farm3D 面向单视图关节物体的三维重建与可控三维合成。其核心目标是从单张输入图像(真实的或由扩散模型生成的)恢复出带关节结构的三维形状,并在此基础上实现可编辑、可驱动的三维资产生成。论文作者为 Tomas Jakab、Ruining Li、Shangzhe Wu、Christian Rupprecht、Andrea Vedaldi(牛津大学),发表于 3DV 2024。

主要能力

  • 单目三维重建:从单张图像重建关节物体的三维形状,能够还原腿部、耳朵等细节,且未使用任何真实图像进行训练。
  • 可控三维合成:生成的三维资产支持调整光照(Relighting)、在同类别模型之间交换纹理(Texture swapping),以及对形状进行动画(Animation)。
  • 可控合成内容:输入既可以是真实图像,也可以是由 Stable Diffusion 合成的图像。

使用方式

根据官方文本,该方法的工作流程如下:

  1. 向 Stable Diffusion 提示生成某一物体类别的虚拟视角图像,用这些图像训练单目关节物体重建模型。
  2. 该模型将输入图像分解为关节形状、外观(反照率以及漫反射与环境强度)、视角和光照方向。
  3. 训练过程中还会采样合成实例视图,交由 Stable Diffusion “评判”,以引导学习。 官方页面提供论文、BibTeX 以及代码与基准(Code and Benchmark)入口,但资料中未给出具体安装命令或运行步骤,暂未提供。

适用场景

  • 关节动物(如马、牛、羊)的单图三维重建研究。
  • 需要从单张图像快速获得可控三维资产的三维内容创作与研究实验。
  • 单视图关节物体重建方法的评测,依托团队发布的 Animodel 数据集与基准。

数据集与评测

研究提出新的三维关节动物数据集(3D Articulated Animals Dataset),用于直接评测关节动物单视图三维重建的质量。该数据集包含由专业三维艺术家制作的马、牛、羊等关节动物的有纹理三维网格,并配有真实的关节姿态。

限制

官方资料未说明该方法的商业授权、收费模式、部署平台与性能指标,暂未提供。其能力描述集中在关节动物类别与单视图重建场景,其他类别与更广泛场景的表现未在资料中说明,暂未提供。