带线性约束凸问题的光滑不精确罚重构
最优化与控制
2020-05-04 v2
摘要
本文考虑带线性不等式的约束凸问题，并给出该问题的不精确罚重构。新颖之处在于罚函数的选取，其为光滑函数且可对原约束问题可行域中的某些点施加非零罚值。所得无约束罚问题由两个罚参数参数化，用于控制罚函数的斜率与曲率。在适当选取这些罚参数后，我们证明在某些假设下所得罚化无约束问题的解对原约束问题是可行的。此外，我们确立在适当选取罚参数时，罚化无约束问题的解可达到任意接近原约束问题最优值的次优值。对于具有大量线性不等式约束的问题，此类光滑罚重构的一个特殊优势是它使罚问题适合实现快速增量梯度法，后者在每次迭代仅需从不等式约束中抽取一个样本。我们考虑应用 \cite{saga} 中提出的 SAGA 来求解所得罚化无约束问题。此外，我们提出一种设置罚问题的替代方法。该方法基于时变罚参数，因此不需要了解某些可能难以估计的问题特定性质。我们证明，在强凸目标函数情形下，应用于相应时变罚问题的单循环全梯度算法收敛到原约束问题的解。
引用
@article{arxiv.1808.07749,
title = {A Smooth Inexact Penalty Reformulation of Convex Problems with Linear Constraints},
author = {Tatiana Tatarenko and Angelia Nedich},
journal= {arXiv preprint arXiv:1808.07749},
year = {2020}
}