中文

神经形状编译器:文本、点云与程序间转换的统一框架

计算机视觉与模式识别 2023-04-10 v2 人工智能

摘要

3D形状具有从底层几何到基于部件的层次结构再到语言的互补抽象,它们传达不同层次的信息。本文提出一个统一框架来在形状抽象对之间翻译:文本\textit{文本} \Longleftrightarrow 点云\textit{点云} \Longleftrightarrow 程序\textit{程序}。我们提出神经形状编译器\textbf{神经形状编译器}将抽象转换建模为条件生成过程。它将三种抽象类型的3D形状转换为统一离散形状码,通过提出的ShapeCode Transformer\textit{ShapeCode Transformer}将每个形状码转换为其他抽象类型的码,并解码它们以输出目标形状抽象。点云码由提出的Point\textit{Point}VQVAE以类无关方式获得。在Text2Shape、ShapeGlot、ABO、Genre和Program Synthetic数据集上,神经形状编译器在文本\textit{文本} \Longrightarrow 点云\textit{点云}点云\textit{点云} \Longrightarrow 文本\textit{文本}点云\textit{点云} \Longrightarrow 程序\textit{程序}以及点云补全任务中展现出优势。此外,神经形状编译器受益于在所有异构数据与任务上的联合训练。

关键词

引用

@article{arxiv.2212.12952,
  title  = {Neural Shape Compiler: A Unified Framework for Transforming between Text, Point Cloud, and Program},
  author = {Tiange Luo and Honglak Lee and Justin Johnson},
  journal= {arXiv preprint arXiv:2212.12952},
  year   = {2023}
}

备注

TMLR; project page: https://tiangeluo.github.io/projectpages/shapecompiler.html