梯度下降训练的无监督神经网络求解逆问题的恢复保证
机器学习
2024-03-11 v1
摘要
先进的机器学习方法，尤其是神经网络，在过去几年中已成为求解逆问题的标准方法。然而，此类方法的理论恢复保证仍然稀缺且难以实现。直到最近，诸如深度图像先验（Deep Image Prior, DIP）之类的无监督方法才在通过梯度流训练并具有适当初始化时，针对通用损失函数具备了收敛性和恢复保证。在本文中，我们通过证明当使用具有适当选择步长/学习率的梯度下降时，这些保证依然成立，从而扩展了这些结果。我们还表明，离散化仅以常数影响两层 DIP 网络的过参数化界限，因此为梯度流发现的不同保证也将适用于梯度下降。
引用
@article{arxiv.2403.05395,
title = {Recovery Guarantees of Unsupervised Neural Networks for Inverse Problems trained with Gradient Descent},
author = {Nathan Buskulic and Jalal Fadili and Yvain Quéau},
journal= {arXiv preprint arXiv:2403.05395},
year = {2024}
}