使用未训练神经网络的压缩感知：梯度下降寻找最平滑的近似
机器学习
2020-05-11 v1 计算机视觉与模式识别
图像与视频处理
机器学习
摘要
未训练卷积神经网络已成为图像恢复与复原方面极为成功的工具。它们能够通过简单地将神经网络模型拟合到单张图像或信号的测量值，以优异的结果解决诸如去噪和压缩感知等标准逆问题，而无需任何额外的训练数据。对于某些应用，这关键地需要以提前停止优化的形式进行额外正则化。然而，对于从少量测量值中恢复信号，未训练卷积网络具有一种有趣的自正则化特性：尽管网络可以完美拟合任何图像，但当使用梯度下降训练至收敛时，网络能够从少量测量值中恢复出自然图像。在本文中，我们为这一特性提供了数值证据并进行了理论研究。我们证明，在没有任何进一步正则化的情况下，未训练卷积神经网络能够从接近最少的随机测量值中近似重建足够结构化的信号和图像。
引用
@article{arxiv.2005.03991,
title = {Compressive sensing with un-trained neural networks: Gradient descent finds the smoothest approximation},
author = {Reinhard Heckel and Mahdi Soltanolkotabi},
journal= {arXiv preprint arXiv:2005.03991},
year = {2020}
}
备注
arXiv admin note: text overlap with arXiv:1910.14634