条件梯度算法的惰性化
数据结构与算法
2018-09-06 v4 机器学习
摘要
条件梯度算法(也常称为弗兰克-沃尔夫算法)因其仅需线性优化预言机的简洁性而广受欢迎,且近年来在在线学习中也获得了显著关注。尽管原理简单,但在许多情况下线性优化预言机的实际实现代价高昂。我们展示了一种使各类条件梯度算法惰性化的通用方法,其在实际计算中使得挂钟时间实现了数个数量级的加速。这是通过采用更快的分离预言机替代线性优化预言机,仅依赖少量线性优化预言机调用而实现的。
引用
@article{arxiv.1610.05120,
title = {Lazifying Conditional Gradient Algorithms},
author = {Gábor Braun and Sebastian Pokutta and Daniel Zink},
journal= {arXiv preprint arXiv:1610.05120},
year = {2018}
}
备注
25 pages and 31 pages of computational results