从 CNN 到基于复小波的平移不变孪生模型
计算机视觉与模式识别
2024-06-03 v3 人工智能
图像与视频处理
机器学习
摘要
我们提出一种新方法，以提升卷积神经网络中的平移不变性与预测精度。具体而言，我们将第一层的“实值卷积 + 最大池化”（RMax）组合替换为对平移或移位稳定的“复值卷积 + 模值”（CMod）。为论证我们的方法，我们指出当卷积核为带通且有方向性（类 Gabor 滤波器）时，CMod 与 RMax 产生可比较的输出。在此情形下，CMod 因此可视为 RMax 的稳定替代方案。为强化该性质，我们约束卷积核采用此类类 Gabor 结构。相应架构被称为数学孪生模型，因其采用定义明确的数学算子来模仿原始自由训练模型的行为。与先前基于低通滤波的方法相比，我们的方法在 ImageNet 和 CIFAR-10 分类任务上取得了更优精度。可以说，我们的方法强调保留高频细节，有助于在平移不变性与信息保持之间取得更好平衡，从而提升性能。此外，其计算开销与内存占用均低于同期工作，使其成为实际部署中有前景的方案。
引用
@article{arxiv.2212.00394,
title = {From CNNs to Shift-Invariant Twin Models Based on Complex Wavelets},
author = {Hubert Leterme and Kévin Polisano and Valérie Perrier and Karteek Alahari},
journal= {arXiv preprint arXiv:2212.00394},
year = {2024}
}