深度图像先验的谱偏置
计算机视觉与模式识别
2019-12-20 v1 机器学习
摘要
Ulyanov 等人提出的“深度图像先验”是神经网络的一个引人注目的性质：卷积编解码器网络可用作自然图像的先验。网络架构隐式地引入了偏置；如果我们将模型训练为将白噪声映射到受损图像，该偏置会引导模型先拟合真实图像，再拟合受损区域。本文探究深度图像先验为何有助于自然图像去噪。我们提出一种新方法来分析深度图像先验优化所生成的轨迹，并证明：（i）编解码器的卷积层解耦图像的频率分量，以不同速率学习各分量；（ii）模型先拟合较低频率，使早停表现为低通滤波器。实验研究了 Cheng 等人工作的扩展，其表明在初始化时，深度图像先验等价于一个平稳高斯过程。
引用
@article{arxiv.1912.08905,
title = {The Spectral Bias of the Deep Image Prior},
author = {Prithvijit Chakrabarty and Subhransu Maji},
journal= {arXiv preprint arXiv:1912.08905},
year = {2019}
}
备注
Bayesian Deep Learning Workshop, NeurIPS 2019