关注间隙：结构化 SVM 的块坐标 Frank-Wolfe 优化
机器学习
2016-06-01 v1 最优化与控制
机器学习
摘要
在本文中，我们针对 Lacoste-Julien 等人 (2013) 提出的块坐标 Frank-Wolfe (BCFW) 算法提出了若干改进，该算法近来被用于结构化预测背景下优化结构化支持向量机 (SSVM) 目标，尽管它有更广泛的应用。我们改进的核心直觉在于，BCFW 维护的块间隙估计揭示了可作为自适应准则的块次优性。首先，我们通过基于间隙的采样，以自适应非均匀方式在 BCFW 的每次迭代中对对象进行采样。其次，我们将 Frank-Wolfe 的成对和远离步变体纳入块坐标框架。第三，我们基于块间隙的缓存命中准则来缓存预言机调用。第四，我们提供了首个用于计算 SSVM 近似正则化路径的方法。最后，我们在四个结构化预测数据集上对所有方法进行了详尽的实证评估。
引用
@article{arxiv.1605.09346,
title = {Minding the Gaps for Block Frank-Wolfe Optimization of Structured SVMs},
author = {Anton Osokin and Jean-Baptiste Alayrac and Isabella Lukasewitz and Puneet K. Dokania and Simon Lacoste-Julien},
journal= {arXiv preprint arXiv:1605.09346},
year = {2016}
}
备注
Appears in Proceedings of the 33rd International Conference on Machine Learning (ICML 2016). 31 pages