SpecNet：谱域卷积神经网络
计算机视觉与模式识别
2021-02-10 v6 机器学习
图像与视频处理
摘要
大多数卷积神经网络（CNN）架构的内存消耗随网络深度增加而迅速增长，这是在有限内存的现代 GPU、嵌入式系统和移动设备上进行高效网络训练的主要约束。若干研究表明，特征图（在卷积层之后生成）是这一内存问题的主要瓶颈。通常，这些特征图在能量集中于谱域的意义上类似于自然照片。尽管将 CNN 架构嵌入谱域被广泛用于加速训练过程，我们证明也可利用谱域来减少内存占用，我们将此方法称为谱域卷积神经网络（SpecNet），它在谱域中执行卷积和激活操作。SpecNet 的性能在三个具有竞争力的目标识别基准任务（CIFAR-10、SVHN 和 ImageNet）上进行了评估，并与若干最先进实现进行了比较。总体而言，SpecNet 能够在所有测试网络中减少约 60% 的内存消耗而无显著性能损失。
引用
@article{arxiv.1905.10915,
title = {SpecNet: Spectral Domain Convolutional Neural Network},
author = {Bochen Guan and Jinnian Zhang and William A. Sethares and Richard Kijowski and Fang Liu},
journal= {arXiv preprint arXiv:1905.10915},
year = {2021}
}
备注
Accepted by ICASSP 21. Contact author: Bochen Guan ([email protected])