用于仿射约束与复合凸最小化任务的 Fejér 单调混合最速下降法
最优化与控制
2018-04-11 v7
摘要
本文介绍了 Fejér 单调混合最速下降法（FM-HSDM），即 HSDM 算法族的新成员，用于求解实希尔伯特空间中的仿射约束最小化任务，其目标函数由凸光滑与非光滑损失复合而成。FM-HSDM 提供的估计序列弱收敛，且在特定假设下强收敛于当前任务的解。利用不动点理论、变分不等式与仿射非扩张映射设计了比最先进的原始对偶技术与交替方向乘子法更灵活处理仿射约束的方案。递归可调节以取得低计算足迹，非常适合于大规模优化任务，且不损害收敛保证。与其 HSDM 前身相比，FM-HSDM 具有 Fejér 单调性，步长参数在迭代中保持恒定以促使估计序列更快收敛至极小点，同时仅需光滑损失函数导数的利普希茨连续性而非强单调性来确保收敛。文中还给出了收敛至最优点的速率结果。
引用
@article{arxiv.1608.02500,
title = {Fej\'er-monotone hybrid steepest descent method for affinely constrained and composite convex minimization tasks},
author = {Konstantinos Slavakis and Isao Yamada},
journal= {arXiv preprint arXiv:1608.02500},
year = {2018}
}