自适应在线学习算法与分析综述
机器学习
2015-11-10 v3
摘要
我们提出了用于分析跟随正则化领导者 (FTRL)、双重平均 (Dual Averaging) 和镜像下降 (Mirror Descent) 算法的工具，其中正则化器（等价于近端函数或学习率调度）是根据数据自适应选择的。适应性可用于证明每轮都成立的遗憾界，并允许像 AdaGrad 风格算法（例如具有自适应每坐标学习率的在线梯度下降）那样获得依赖于数据的遗憾界。我们以统一的方式呈现了大量先前工作的结果，采用模块化且紧密的分析，将关键论点隔离在易于重用的引理中。这种方法加强了先前已知的 FTRL 分析技术，产生了与势函数或原始 - 对偶分析所达到的界限一样紧密的界限。此外，我们证明了任意自适应镜像下降算法与相应的 FTRL 更新之间存在一般且精确的等价性，这使我们能够在同一框架下分析任何镜像下降算法。弥合双重平均与镜像下降算法之间差距的关键在于对 FTRL-Proximal 算法族的分析。我们的遗憾界以最一般的形式得到证明，适用于任意范数以及具有时变权重的非光滑正则化器。
引用
@article{arxiv.1403.3465,
title = {A Survey of Algorithms and Analysis for Adaptive Online Learning},
author = {H. Brendan McMahan},
journal= {arXiv preprint arXiv:1403.3465},
year = {2015}
}