一种用于约束自协调最小化的牛顿 Frank-Wolfe 方法
最优化与控制
2020-02-18 v1 机器学习
机器学习
摘要
我们展示了如何使用约束集上的线性最小化预言 (LMO) 来可扩展地求解一类约束自协调最小化问题。我们证明，我们方法的 LMO 调用次数几乎与 L-光滑情形下 Frank-Wolfe 方法的相同。具体而言，我们的牛顿 Frank-Wolfe 方法使用 次 LMO，其中 为所需精度且 。此外，我们展示了我们的算法如何利用基于 LMO 的改进变体（包括远离步）来实现线性收敛速率。我们还提供了投资组合设计（含竞争比）、D-最优实验设计和带弹性网的 logistic 回归方面的数值证据，其中牛顿 Frank-Wolfe 优于现有最优方法。
引用
@article{arxiv.2002.07003,
title = {A Newton Frank-Wolfe Method for Constrained Self-Concordant Minimization},
author = {Deyi Liu and Volkan Cevher and Quoc Tran-Dinh},
journal= {arXiv preprint arXiv:2002.07003},
year = {2020}
}