未训练卷积神经网络的早期停止
数值分析
2024-06-07 v2 数值分析
摘要
近年来，基于（深度）神经网络的新正则化方法在不适定问题的数值求解中展现出了极具前景的实证性能，例如在医学成像和成像科学领域。由于神经网络的非线性，这些方法往往缺乏令人满意的理论论证。在这项工作中，我们严格讨论了一种成功的无监督方法的收敛性，该方法利用未训练的卷积神经网络来表示线性不适定问题的解。未训练神经网络对许多应用特别具有吸引力，因为它们不需要成对的训练数据。该方法的正则化性质仅依赖于神经网络架构。由于所用神经网络的极度过参数化，合适的早期停止对于该方法的成功至关重要。我们确立了经典偏差原理是通过梯度下降学习的两层未训练卷积神经网络早期停止的充分方法，此外，它产生了具有极小极大最优收敛速率的近似。同时也给出了数值结果以说明理论发现。
引用
@article{arxiv.2402.04610,
title = {Early Stopping of Untrained Convolutional Neural Networks},
author = {Tim Jahn and Bangti Jin},
journal= {arXiv preprint arXiv:2402.04610},
year = {2024}
}