等变层与不变层对比:点云分类中骨干网络与池化的比较
计算机视觉与模式识别
2024-07-16 v2 机器学习
摘要
从集合结构数据(如点云)中学习已获得机器学习界的显著关注。几何深度学习为设计保持集合结构数据置换对称性的有效集合神经网络提供了蓝图。我们感兴趣的是置换不变网络,其由置换等变骨干、置换不变全局池化以及回归/分类头组成。尽管已有文献聚焦于改进等变骨干,池化层的影响却常被忽视。在本文中,我们在三个基准点云分类数据集上考察了置换等变骨干与置换不变全局池化之间的相互作用。我们的发现揭示:1)复杂池化方法(如基于传输或基于注意力的池化)可显著提升简单骨干的性能,但对更复杂骨干的收益递减;2)即便复杂骨干在低数据场景下也能从池化层获益;3)令人惊讶的是,池化层的选择对模型性能的影响可能比调整骨干的宽度与深度更为显著;4)池化层的成对组合可显著改善固定骨干的性能。我们的全面研究为从业者设计更好的置换不变集合神经网络提供了见解。我们的代码见 https://github.com/mint-vu/backbone_vs_pooling。
引用
@article{arxiv.2306.05553,
title = {Equivariant vs. Invariant Layers: A Comparison of Backbone and Pooling for Point Cloud Classification},
author = {Abihith Kothapalli and Ashkan Shahbazi and Xinran Liu and Robert Sheng and Soheil Kolouri},
journal= {arXiv preprint arXiv:2306.05553},
year = {2024}
}
备注
Published in the GRaM workshop at ICML 2024