VNT-Net：旋转不变的向量神经元Transformer
计算机视觉与模式识别
2022-05-26 v2
摘要
学习具有旋转不变性的三维点集是机器学习中一个重要且具有挑战性的问题。通过旋转不变架构，三维点云神经网络无需依赖规范全局姿态，也无需使用所有可能旋转进行穷举数据增强。在本工作中，我们结合近期提出的向量神经元与自注意力层，引入一种旋转不变神经网络，构建了点云向量神经元Transformer网络（VNT-Net）。向量神经元以其在表示SO(3)作用时的简洁性与通用性而著称，并由此被纳入常见的神经运算中。类似地，Transformer架构已广受欢迎，且近期研究表明其直接应用于图像块序列时在图像任务上表现优异，取得了更优的性能与收敛性。为兼取两者之长，我们将这两种结构相结合，主要展示了如何调整多头注意力层以适配向量神经元运算。通过这一调整，注意力层变为SO(3)等变，整体网络实现旋转不变。实验表明，我们的网络能高效处理任意姿态下的三维点云物体。我们还表明，在常见的分类与分割任务中，与相关的SOTA方法相比，我们的网络取得了更高精度，且因超参数更少而所需训练更少。
引用
@article{arxiv.2205.09690,
title = {VNT-Net: Rotational Invariant Vector Neuron Transformers},
author = {Hedi Zisling and Andrei Sharf},
journal= {arXiv preprint arXiv:2205.09690},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:2104.12229 by other authors