卷积解码器网络在频率表示上的缺陷
机器学习
2023-12-04 v2 人工智能
计算机视觉与模式识别
摘要
本文中，我们考虑级联卷积解码器网络表示输入样本不同频率分量的能力，证明其表示缺陷。我们对解码器网络中间层特征图的每个通道进行离散傅里叶变换。随后，我们将二维循环卷积定理推广，以在频域中表示通过卷积层的前向与反向传播。在此基础上，我们证明了特征谱表示中的三个缺陷。第一，我们证明卷积操作、零填充操作以及一组其他设置都使卷积解码器网络更可能削弱高频分量。第二，我们证明上采样操作生成的特征谱中，强信号在某些频率处重复出现。第三，我们证明若输入样本中的频率分量与回归目标输出中的频率分量存在微小偏移，则解码器通常无法被有效学习。
引用
@article{arxiv.2210.09020,
title = {Defects of Convolutional Decoder Networks in Frequency Representation},
author = {Ling Tang and Wen Shen and Zhanpeng Zhou and Yuefeng Chen and Quanshi Zhang},
journal= {arXiv preprint arXiv:2210.09020},
year = {2023}
}