全修正广义条件梯度方法的渐近线性收敛性
最优化与控制
2023-07-17 v2
摘要
我们提出一种全修正广义条件梯度方法(FC-GCG)，用于在 Banach 空间上最小化一个光滑凸损失函数与一个凸一次齐次正则化项之和。该算法依赖于正则化项单位球的有限极点集 与迭代点 的相互更新。每次迭代需求解一个线性问题以更新 ，以及一个有限维凸最小化问题以更新迭代点。在最小化问题的标准假设下，我们证明算法次线性收敛到解。随后，通过对相关对偶变量施加额外假设，该收敛速率被提升至线性收敛。两个结果的证明依赖于两个关键观察：首先，我们利用 Choquet 定理证明所考虑问题等价于在某个特定 Radon 测度空间上最小化一个提升泛函；其次，FC-GCG 算法与提升问题上的原始-对偶活跃点法(Primal-Dual-Active-point Method, PDAP) 相关联，我们最终为其推导出了所需的收敛速率。
引用
@article{arxiv.2110.06756,
title = {Asymptotic linear convergence of fully-corrective generalized conditional gradient methods},
author = {Kristian Bredies and Marcello Carioni and Silvio Fanzon and Daniel Walter},
journal= {arXiv preprint arXiv:2110.06756},
year = {2023}
}
备注
50 pages, 3 figures