基于局部误差界条件的惯性前向-后向算法的收敛速率
最优化与控制
2022-02-25 v3
摘要
“惯性前向-后向算法”(IFB)是求解凸非光滑最小化问题的有力工具,它给出了著名的“快速迭代收缩阈值算法”(FISTA),其函数值的全局收敛速率为 ,然而未证明迭代的收敛性;通过微小修改,一种称为“FISTA_CD”的加速 IFB 将函数值的收敛速率提升至 并展示了迭代的弱收敛。局部误差界条件在分析众多求解优化问题迭代方法的收敛速率时极为有用,且在实际应用中,大量具有特殊结构的问题常满足误差界条件。自然地,利用局部误差界条件推导或改进 IFB 的收敛速率是一种常用手段。本文基于局部误差界条件,对 IFB 中重要参数 提出一种新的假设条件,并在 Hilbert 空间中建立了满足上述假设条件的六种 下 IFB 算法生成的函数值改进收敛速率及迭代的强收敛。值得注意的是,在局部误差界条件下,我们建立了原始 FISTA 生成迭代的强收敛,并证明 FISTA_CD 的函数值收敛速率实际上与参数 的取值有关,且表明上述某些 的 IFB 算法对任意正整数 可达到次线性收敛速率 。进行了一些数值实验以说明我们的结果。
引用
@article{arxiv.2007.07432,
title = {Convergence Rate of Inertial Forward-Backward Algorithms Based on the Local Error Bound Condition},
author = {Hongwei Liu and Ting Wang and Zexian Liu},
journal= {arXiv preprint arXiv:2007.07432},
year = {2022}
}