一刀切:能否为所有噪声水平训练一个去噪器?
机器学习
2020-07-20 v3 机器学习
摘要
当训练诸如神经网络等估计器用于图像去噪等任务时,通常倾向于训练一个估计器并将其应用于所有噪声水平。实现此目标的约定训练协议是用噪声水平在感兴趣范围内均匀分布的含噪样本训练估计器。然而,为何要均匀分配样本?我们能否拥有更多噪声较小的训练样本,以及较少噪声较大的样本?最优分布是什么?我们如何获得这样的分布?本文的目标是从极小极大风险优化视角解决该训练样本分布问题。我们推导了一种对偶上升算法以确定最优采样分布,只要可容许估计器集合是闭且凸的,其收敛性即得保证。对于具有非凸可容许集的估计器(如深度神经网络),我们的对偶形式收敛至凸松弛的一个解。我们讨论了该算法如何在实践中实现。我们在线性估计器与深度网络上评估了该算法。
引用
@article{arxiv.2005.09627,
title = {One Size Fits All: Can We Train One Denoiser for All Noise Levels?},
author = {Abhiram Gnansambandam and Stanley H. Chan},
journal= {arXiv preprint arXiv:2005.09627},
year = {2020}
}
备注
Published in the 37th International Conference on Machine Learning (ICML) 2020