无投影秩下降步
机器学习
2017-10-17 v2
摘要
Frank-Wolfe（FW）算法由于不需要投影，已广泛用于处理核范数约束问题。然而，FW常产生高秩的中间迭代，对于大规模问题可能在时间和空间代价上非常昂贵。为解决此问题，我们提出一种针对核范数约束问题的秩下降方法。目标是生成导致秩减小的下降步，从而在算法全过程中保持低秩解。此外，优化问题被加以约束以确保秩下降步也是可行的，并且能轻易并入无投影最小化方法，例如Frank-Wolfe。我们证明，通过将秩下降步并入Frank-Wolfe算法，相较于原始Frank-Wolfe或其常见变体，解的秩被大幅降低。
引用
@article{arxiv.1704.04285,
title = {Projection Free Rank-Drop Steps},
author = {Edward Cheung and Yuying Li},
journal= {arXiv preprint arXiv:1704.04285},
year = {2017}
}