更快的梯度下降法与图像的高效恢复

最近许多关注点集中在梯度下降算法上，其中最陡下降步长被替换为来自前一次迭代的类似步长，或者每两步才更新一次，从而形成一种{\em 更快的梯度下降方法}。对于无约束凸二次优化，这些方法的收敛速度远快于最陡下降法。但此处感兴趣的背景是将其应用于某些病态逆问题，在这些情况下已知最陡下降法具有平滑和正则化效应，且不需要严格的优化解。具体而言，在本文中，我们在图像去模糊和去噪任务的实际背景下，考察了用更快的梯度下降算法替换最陡下降法的效果。我们还提出了几种高效的方案来独立于步长选择执行这些任务，以及一种针对同时存在模糊和显著噪声情况的方案。在上述背景下，存在需要许多最陡下降步的情况，从而导致求解过程缓慢。关于梯度下降方法，我们的一般结论是，在此类情况下，更快的梯度下降方法提供了显著优势。而在没有出现此类缓慢积累的其他情况下，最陡下降法仍然非常有效。