论通用等变集网络

使用对置换不变或等变的深度神经网络来学习无序集上的函数已十分普遍。最流行的基础模型是 DeepSets [Zaheer et al. 2017] 与 PointNet [Qi et al. 2017]。尽管已知 DeepSets 与 PointNet 在逼近不变函数时是通用的，但已知它们在逼近\emph{等变}集函数时并非通用。另一方面，若干近期等变集架构已被证明是等变通用的 [Sannai et al. 2019]、[Keriven et al. 2019]，然而这些模型要么使用了非置换等变（标准意义下）的层，要么使用了较不实用的高阶张量变量。因此，在理解流行等变集模型与理论模型通用性之间存在鸿沟。本文通过证明以下结论弥补该鸿沟：(i) PointNet 非等变通用；且 (ii) 增加单层线性传输层使 PointNet 通用。我们称此架构为 PointNetST，并认为它是迄今已知最简单的置换等变通用模型。另一结论是 DeepSets 是通用的，且流行的点云分割网络 PointNetSeg（例如用于 [Qi et al. 2017]）也是通用的。证明上述结果的关键理论工具是对所有置换等变多项式层的显式刻画。最后，我们给出数值实验验证理论结果并比较不同置换等变模型。