利用正交矩为等变神经网络学习不变表示
计算机视觉与模式识别
2022-09-23 v1
摘要
标准卷积神经网络（CNNs）的卷积层对平移具有等变性。然而，卷积层与全连接层对其他仿射几何变换既不等变也不不变。近来，提出了一类新的 CNN，其中 CNN 的常规层被等变卷积、池化和批归一化层取代。等变神经网络中的最终分类层对旋转、反射和平移等不同仿射几何变换是不变的，其标量值通过在整个网络中使用卷积和下采样消除滤波器响应的空间维度，或对滤波器响应取平均获得。在本工作中，我们提出整合正交矩，其给出函数的高阶统计，作为在全连接层中编码关于旋转、反射和平移的全局不变性的有效手段。结果，网络的中间层变为等变，而分类层变为不变。为此考虑了最常用的 Zernike、伪 Zernike 和正交 Fourier-Mellin 矩。所提工作的有效性通过在旋转 MNIST 与 CIFAR10 数据集上于群等变 CNN（G-CNNs）架构中整合不变变换与全连接层进行评估。
引用
@article{arxiv.2209.10944,
title = {Learning Invariant Representations for Equivariant Neural Networks Using Orthogonal Moments},
author = {Jaspreet Singh and Chandan Singh},
journal= {arXiv preprint arXiv:2209.10944},
year = {2022}
}
备注
International Joint Conference on Neural Networks (IJCNN), 2022