变度量非精确投影预条件梯度方法:基于 Lyapunov 方法的通用收敛理论
最优化与控制
2025-06-05 v1 数值分析
数值分析
摘要
投影梯度方法被广泛用于约束优化。一个关键应用是偏微分方程(PDE),其中目标泛函表示物理能量,线性约束强制守恒律。然而,计算到约束集上的投影通常需要求解大规模病态线性系统。一种常见策略是放松投影精度并施加预条件子,这引出了此处研究的非精确预条件投影梯度下降(IPPGD)方法。然而,IPPGD 方法的理论分析和动力学行为,以及非精确投影算子本身的有效构造,大多尚未被探索。我们提出了一种构造非精确投影算子的策略,并发展了一种梯度型流来建模 IPPGD 方法。对该流的离散化不仅恢复了原始的 IPPGD 方法,还产生了一种可能更快的新型方法。此外,我们应用 Lyapunov 分析,设计了一个精巧的 Lyapunov 函数,以证明连续层面的指数收敛和离散层面的线性收敛。然后我们将所提方法应用于求解非线性 PDE 并给出了数值结果。
引用
@article{arxiv.2506.03671,
title = {Inexact Projected Preconditioned Gradient Methods with Variable Metrics: General Convergence Theory via Lyapunov Approach},
author = {Ruchi Guo and Jun Zou},
journal= {arXiv preprint arXiv:2506.03671},
year = {2025}
}