中文

SAMPart3D:三维物体任意部件分割

计算机视觉与模式识别 2024-11-19 v2

摘要

三维部件分割是三维感知中一项关键且具有挑战性的任务,在机器人技术、三维生成和三维编辑等应用中发挥着重要作用。近期方法利用强大的视觉语言模型(VLM)进行二维到三维的知识蒸馏,实现了零样本三维部件分割。然而,这些方法受限于对文本提示的依赖,这限制了其向大规模无标注数据集的扩展性以及处理部件歧义的灵活性。在本工作中,我们提出了 SAMPart3D,一种可扩展的零样本三维部件分割框架,它能在不需要预定义部件标签集作为文本提示的情况下,将任意三维物体分割为多粒度的语义部件。为实现可扩展性,我们使用与文本无关的视觉基础模型蒸馏三维特征提取骨干网络,从而能扩展到大规模无标注三维数据集以学习丰富的三维先验。为实现灵活性,我们蒸馏尺度条件部件感知三维特征,用于多粒度的三维部件分割。一旦从尺度条件部件感知三维特征中获得分割部件,我们即利用 VLM 基于多视角渲染为每个部件分配语义标签。与先前方法相比,我们的 SAMPart3D 可扩展到近期的大规模三维物体数据集 Objaverse,并能处理复杂、非普通物体。此外,我们贡献了一个新的三维部件分割基准,以解决现有基准中物体和部件缺乏多样性和复杂性的问题。实验表明,我们的 SAMPart3D 显著优于现有的零样本三维部件分割方法,并能促进部件级编辑和交互式分割等各种应用。

关键词

引用

@article{arxiv.2411.07184,
  title  = {SAMPart3D: Segment Any Part in 3D Objects},
  author = {Yunhan Yang and Yukun Huang and Yuan-Chen Guo and Liangjun Lu and Xiaoyang Wu and Edmund Y. Lam and Yan-Pei Cao and Xihui Liu},
  journal= {arXiv preprint arXiv:2411.07184},
  year   = {2024}
}

备注

Project Page: https://yhyang-myron.github.io/SAMPart3D-website/