基于Stein无偏风险估计器的无监督学习
机器学习
2020-07-24 v3 计算机视觉与模式识别
机器学习
摘要
从无标签且含噪数据中学习是机器学习的一大挑战,相关研究层出不穷。本文中,我们重访一个经典思想:Stein无偏风险估计器(SURE)。我们表明,在图像恢复背景下,SURE及其推广可用于训练卷积神经网络(CNNs)处理一系列图像去噪与恢复问题,而无需任何真值数据。具体而言,我们的目标是从图像的含噪线性变换(观测)中重建图像。我们考虑两种情形:一种是无额外数据可用,另一种是我们拥有其他图像的观测,这些图像与来自同一含噪分布但无法获得干净图像。例如,在医学成像、显微镜与天文学中,无噪真值数据极少可得。我们表明,在此情形下,SURE可用于估计与的估计相关的均方误差损失。利用该损失估计,我们训练网络执行去噪与压缩感知恢复。此外,我们还借助SURE框架部分解释并改进了Ulyanov等人在"Deep Image Prior"中提出的引人注目结果:用随机权重初始化并拟合单张含噪图像的网络可有效对该图像去噪。本文所述网络与方法的公开实现见https://github.com/ricedsp/D-AMP_Toolbox。
引用
@article{arxiv.1805.10531,
title = {Unsupervised Learning with Stein's Unbiased Risk Estimator},
author = {Christopher A. Metzler and Ali Mousavi and Reinhard Heckel and Richard G. Baraniuk},
journal= {arXiv preprint arXiv:1805.10531},
year = {2020}
}