基于对偶割平面法的非光滑 Frank-Wolfe 算法
最优化与控制
2024-03-28 v1
摘要
本文提出了 Frank-Wolfe 算法（FWA，亦称条件梯度算法）的一种扩展。在其标准形式中，FWA 用于求解涉及 -光滑代价函数的约束优化问题，每次迭代调用一次线性极小化预言机。更具体地说，该预言机求解通过对原始代价函数线性化得到的问题。本文设计并研究的算法名为对偶化水平集算法，它扩展了 FWA 并能够处理一类非光滑代价函数，特别是包含支撑函数的代价函数。构建 DLS 方法背后的关键思想是从对偶角度将 FWA 一般地解释为一种割平面算法。DLS 算法本质上源于一种基于在特定水平集上投影的割平面算法的对偶化。DLS 算法生成一个原始-对偶候选序列，我们证明了相应的原始-对偶间隙以 的速率收敛。
引用
@article{arxiv.2403.18744,
title = {A nonsmooth Frank-Wolfe algorithm through a dual cutting-plane approach},
author = {Guilherme Mazanti and Thibault Moquet and Laurent Pfeiffer},
journal= {arXiv preprint arXiv:2403.18744},
year = {2024}
}