一种用于非 Lipschitz 分组稀疏优化的快速迭代阈值与支持-规模缩小算法 (FITS3)：最小二乘保真度情况
最优化与控制
2025-01-09 v1
摘要
我们考虑设计一种新型高效且易于实现的算法，以求解具有非凸非 Lipschitz 正则化项的一般分组稀疏优化模型，称为快速迭代阈值与支持-规模缩小算法 (Fast Iterative Thresholding and Support-and-Scale Shrinking Algorithm, FITS3)。在本文中，我们关注最小二乘保真度的情况。FITS3 基于此类模型的下界理论设计，通过融合阈值运算、线性化和外推技术来实现。FITS3 有两个优势：首先，它非常高效，尤其适用于大规模问题，因为它采用支持-规模缩小方法，不需要求解任何线性或非线性方程组。对于两个重要的特殊情况，FITS3 仅包含简单计算，如矩阵-向量乘法和软阈值。其次，FITS3 算法在适当假设下具有序列收敛保证。数值实验与与最近的现有非 Lipschitz 分组恢复算法进行比较表明，该提出的 FITS3 在恢复精度上与第二个最快的对比算法相当，但仅耗时约为一半，用于中等或大规模问题。
引用
@article{arxiv.2501.04491,
title = {A fast iterative thresholding and support-and-scale shrinking algorithm (fits3) for non-lipschitz group sparse optimization (i): the case of least-squares fidelity},
author = {Yanan Zhao and Qiaoli Dong and Yufei Zhao and Chunlin Wu},
journal= {arXiv preprint arXiv:2501.04491},
year = {2025}
}