通过自适应重启与回溯的无参数FISTA

我们考虑将重启与自适应回溯策略相结合，用于广受欢迎的快速迭代收缩阈值算法（FISTA），该算法常被用于加速大规模结构化凸优化问题的收敛速度。在已知问题条件数（即决定目标函数增长的（Łojasiewicz）参数$\mu$与其光滑部分Lipschitz常数$L$之比）的前提下，FISTA的若干变体享有函数值的线性收敛速率，形式为$\mathcal{O}( e^{-K\sqrt{\mu/L}~n})$。然而这些参数在许多实际情形中难以估计。近期工作通过合适的自适应策略分别估计其中一个参数来解决该问题。在我们的工作中，借助一种算法重启方案可同时估计两个参数，其中每次重启时执行对$L$的非单调估计。对该方案我们证明了理论收敛结果，表明仍能实现$\mathcal{O}( e^{-K\sqrt{\mu/L}n})$的收敛速度，并给出条件数的定量估计。由此得到的Free-FISTA算法因此是无参数的。我们报告了若干数值结果，以证实其在许多示例问题中使用的实际价值。