一种求解非负正交约束优化问题的精确罚方法
最优化与控制
2021-01-01 v2
摘要
带非负正交约束的优化在机器学习和数据科学中有广泛应用。由于约束的一些组合性质，该问题是NP难的。我们首先提出一个具有非负与多重球约束及一个附加单个非线性约束的等价优化公式。讨论了各种约束规范、该等价公式的一阶与二阶最优性条件。通过建立可行集的局部误差界，我们通过保留非负与多重球约束设计了一类(光滑)精确罚模型。当罚参数足够大而非趋于无穷时，这些罚模型是精确的。随后开发了带后处理的实用罚算法。它使用二阶方法近似求解一系列带非负与多重球约束的子问题。我们研究了该罚算法的渐近收敛性，并证明任何极限点都是原问题的弱平稳点，且在若干额外温和条件下成为平稳点。在投影问题、正交非负矩阵分解问题及K-indicators模型上的大量数值结果表明了我们提出方法的有效性。
引用
@article{arxiv.1907.12424,
title = {An exact penalty approach for optimization with nonnegative orthogonality constraints},
author = {Bo Jiang and Xiang Meng and Zaiwen Wen and Xiaojun Chen},
journal= {arXiv preprint arXiv:1907.12424},
year = {2021}
}
备注
32 pages, 4 figures, 7 tables