Stiefel 流形优化中保持约束的更新方案框架
最优化与控制
2014-09-22 v3
摘要
本文考虑 Stiefel 流形 上的优化问题,其中为变量,为单位矩阵。通过将每个可行点分解为的值域空间和的零空间,提出了一种保持约束的更新方案框架。虽然该通用框架可以统一许多现有方案,但也发现了一种具有低复杂度成本的新更新方案。随后,我们在新更新方案下研究了一种可行的类 Barzilai-Borwein 方法。通过自适应非单调线搜索建立了该方法的全局收敛性。在最近低秩相关矩阵问题、Kohn-Sham 总能量最小化以及一个特定的统计学问题上的数值测试证明了新方法的有效性。特别是,新方法在最近低秩相关矩阵问题的速度和求解质量方面表现卓越,并且在 Kohn-Sham 总能量最小化问题上与广泛使用的 SCF 迭代具有相当强的竞争力。
引用
@article{arxiv.1301.0172,
title = {A Framework of Constraint Preserving Update Schemes for Optimization on Stiefel Manifold},
author = {Bo Jiang and Yu-Hong Dai},
journal= {arXiv preprint arXiv:1301.0172},
year = {2014}
}
备注
29 pages, 1 figure