用于复合最小化问题的变度量前向-后向算法
最优化与控制
2021-02-02 v3
摘要
我们提出一种基于前向-后向的算法,以最小化一个可微函数与一个非光滑函数之和,两者均可能非凸。本工作的主要贡献是考虑具有挑战性的情形,其中非光滑函数对应于由严格递增、凹、可微函数与凸非光滑函数复合而成的非凸函数之和。所提出的变度量复合函数前向-后向算法(C2FB)通过majorize-minimize方法规避了复合函数邻近算子的显式且通常困难的计算。确切地说,每个复合函数使用可微函数的线性近似进行majorize,从而允许仅对非光滑函数之和应用邻近步。我们利用 Kurdyka-Łojasiewicz 不等式证明了算法迭代收敛到目标函数的临界点。即使邻近算子以相对误差非精确计算,收敛也得到保证。我们表明所提出的方法是重加权方法的推广,并具有收敛保证。特别地,应用于 log-sum 函数时,我们的算法化简为著名的重加权 方法的广义版本。最后,我们通过对图像处理问题的仿真表明,与传统的重加权方法和经典前向-后向算法相比,所提出的 C2FB 算法需要更少的迭代次数收敛并导致更好的临界点。
引用
@article{arxiv.1907.11486,
title = {Variable Metric Forward-Backward Algorithm for Composite Minimization Problems},
author = {Audrey Repetti and Yves Wiaux},
journal= {arXiv preprint arXiv:1907.11486},
year = {2021}
}