SetVAE:面向集合结构数据生成建模的分层组合学习
机器学习
2021-03-30 v1 计算机视觉与模式识别
摘要
对点云等集合结构数据的生成建模,需要在多种尺度上推理局部与全局结构。然而,将用于普通序列数据的多尺度框架应用于集合结构数据并非易事,因为其应对元素置换保持不变性。本文提出 SetVAE,一种用于集合的分层变分自编码器。受近期集合编码进展的启发,我们基于注意力模块构建 SetVAE,这些模块首先对集合进行划分,并将划分投影回原始基数。利用该模块,我们的分层 VAE 在多个尺度上学习潜变量,捕获集合元素从粗到细的依赖关系,同时实现置换不变性。我们在点云生成任务上评估了我们的模型,并以显著更小的模型容量取得了与现有最优方法相竞争的性能。我们定性地展示了我们的模型可泛化至未见过的集合大小,并在无监督情况下学习到有趣的子集关系。我们的实现可在 https://github.com/jw9730/setvae 获取。
引用
@article{arxiv.2103.15619,
title = {SetVAE: Learning Hierarchical Composition for Generative Modeling of Set-Structured Data},
author = {Jinwoo Kim and Jaehoon Yoo and Juho Lee and Seunghoon Hong},
journal= {arXiv preprint arXiv:2103.15619},
year = {2021}
}
备注
19 pages, 20 figures