Fantasia3D 是一个文本到三维(text-to-3D)内容生成方法,由华南理工大学发表于 ICCV 2023。该方法的核心是解耦几何(geometry)与外观(appearance)的建模与学习,以生成高质量的 3D 资产。
用途
- 文本到 3D 内容生成:根据纯文本提示生成高质量 3D 资产(零样本生成)。
- 用户引导生成:可接受用户自定义 3D 模型作为初始化,进行引导式资产生成。
主要能力
- 几何学习:采用混合场景表示(DMTET,初始化为 3D 椭球),将提取网格的表面法线(训练早期还包括物体掩码)作为图像扩散模型(Stable Diffusion)的输入进行优化。
- 外观建模:在 text-to-3D 任务中引入空间变化的双向反射分布函数(BRDF),学习预测外观的三个分量(kd、krm、kn),以实现生成表面的照片级真实感渲染。
- 解耦框架与图形引擎更兼容,支持重新光照(relighting)、编辑和生成 3D 资产的物理模拟。
- 几何与外观建模均通过 Score Distillation Sampling(SDS)损失进行监督。
使用方式 资料中未提供具体的安装命令、代码仓库地址或操作步骤。页面地址为 https://fantasia3d.github.io/ ,可访问该页面获取项目相关信息。
适用场景
- 文本驱动的 3D 资产创建。
- 需要解耦几何与外观以便后续重新光照、编辑或物理模拟的场景。
- 以自定义 3D 模型为初始化的引导式生成场景。
限制
- 资料中未提供关于收费、价格、平台支持、性能指标或使用门槛的信息。
- 实验中未提供具体定量结果数据,仅说明其方法在不同 text-to-3D 任务设置下优于现有方法。