TFDMNet：一种结合时域与频域特征的新型网络结构
计算机视觉与模式识别
2024-01-31 v1 机器学习
摘要
在过去几十年中，卷积神经网络（CNN）在计算机视觉领域取得了令人瞩目的成功。图像卷积操作帮助 CNN 在图像相关任务上获得良好性能。然而，它也具有较高的计算复杂度且难以并行化。本文提出了一种新颖的逐元素乘法层（EML）来替代卷积层，该层可以在频域中进行训练。理论分析表明，EML 降低了计算复杂度且更易于并行化。此外，我们引入了权重固定机制以缓解过拟合问题，并分析了批归一化和 Dropout 在频域中的工作行为。为了在计算复杂度和内存使用之间取得平衡，我们提出了一种新的网络结构，即时频域混合网络（TFDMNet），它结合了卷积层和 EML 的优势。实验结果表明，与相应的 CNN 相比，TFDMNet 在 MNIST、CIFAR-10 和 ImageNet 数据库上以更少的操作次数取得了良好的性能。
引用
@article{arxiv.2401.15949,
title = {TFDMNet: A Novel Network Structure Combines the Time Domain and Frequency Domain Features},
author = {Hengyue Pan and Yixin Chen and Zhiliang Tian and Peng Qiao and Linbo Qiao and Dongsheng Li},
journal= {arXiv preprint arXiv:2401.15949},
year = {2024}
}
备注
This paper is the updated edition of our paper Learning Convolutional Neural Networks in the Frequency Domain (arXiv:2204.06718). Comparing with the previous edition, we design a mixture model to get the balance between the computation complexity and memory usage