通过利用卷积生成器的结构偏置进行去噪与正则化

卷积神经网络（CNNs）已成为图像生成、恢复和修复方面极为成功的工具。造成这一成功的一个主要因素是卷积网络对自然图像施加了强烈的先验假设。一个突显这种朝向自然图像的架构偏置的惊人实验是：无需使用任何训练数据，仅通过将随机初始化、过参数化的卷积生成器拟合（通过梯度下降）到受损图像，即可去除自然图像中的噪声与损坏。虽然这个过参数化网络可以完美拟合受损图像，但令人惊讶的是，经过几次梯度下降迭代后它生成了一幅几乎未受损的图像。这一引人入胜的现象实现了基于 CNN 的最先进去噪以及其他逆问题的正则化。在本文中，我们将这一效应归因于卷积网络的一种特定架构选择，即带有固定插值滤波器的卷积。随后我们正式刻画了两层卷积生成器拟合含噪信号的动力学，并证明早停的梯度下降具有去噪/正则化作用。我们的证明依赖于表明卷积生成器拟合图像结构化部分的速度显著快于受损部分。