中文

SHAP-EDITOR:秒级指令引导的潜在 3D 编辑

计算机视觉与模式识别 2023-12-15 v1

摘要

我们提出了一种名为 Shap-Editor 的新型前馈 3D 编辑框架。先前关于编辑 3D 物体的研究主要集中在利用现成的 2D 图像编辑网络来编辑单个物体。这是通过称为蒸馏的过程实现的,该过程将知识从 2D 网络转移到 3D 资产。蒸馏每个资产至少需要数十分钟才能获得令人满意的编辑结果,因此不太实用。相比之下,我们探讨是否可以直接由前馈网络执行 3D 编辑,从而避免测试时优化。特别是,我们假设首先将 3D 物体编码到合适的潜在空间中可以大大简化编辑过程。我们通过在 Shap-E 的潜在空间基础上构建来验证这一假设。我们证明,通过构建一个前馈编辑器网络,在此空间中进行直接 3D 编辑是可行且高效的,每次编辑仅需约一秒。我们的实验表明,Shap-Editor 能很好地泛化到具有不同提示的分布内和分布外 3D 资产,其性能与对每个编辑实例执行测试时优化的方法相当。

关键词

引用

@article{arxiv.2312.09246,
  title  = {SHAP-EDITOR: Instruction-guided Latent 3D Editing in Seconds},
  author = {Minghao Chen and Junyu Xie and Iro Laina and Andrea Vedaldi},
  journal= {arXiv preprint arXiv:2312.09246},
  year   = {2023}
}

备注

Project Page: https://silent-chen.github.io/Shap-Editor/