漂移对手的 Fenchel 对偶
机器学习
2013-09-24 v1
摘要
我们描述了一个用于设计和分析针对\emph{漂移遗憾}的在线凸优化算法的原始 - 对偶框架。现有文献仅针对和范数展示了（近乎）最优的漂移遗憾界。我们的工作建立了这些算法与在线镜像下降（）更新之间的联系；我们工作产生的一个关键见解是，为了使这些算法成功，只需正则化子的梯度（在适当的范数下）有界即可。对于正则化子不具备此性质的情况（如范数），我们必须\emph{平移}正则化子以确保这一点。因此，这有助于解释\cite{bansal10, buchbinder12}中提出的各种更新。我们还考虑了具有 1-步前瞻和范数移动成本的该问题的在线变体。我们的原始 - 对偶方法为该问题产生了近乎最优的竞争比。
引用
@article{arxiv.1309.5904,
title = {Fenchel Duals for Drifting Adversaries},
author = {Suman K Bera and Anamitra R Choudhury and Syamantak Das and Sambuddha Roy and Jayram S. Thatchachar},
journal= {arXiv preprint arXiv:1309.5904},
year = {2013}
}