广义隐式 Follow-The-Regularized-Leader
机器学习
2023-06-02 v1 最优化与控制
机器学习
摘要
我们提出一类新的在线学习算法，广义隐式 Follow-The-Regularized-Leader（FTRL），拓展了 FTRL 框架的范围。广义隐式 FTRL 可以恢复已知算法，如带线性化损失的 FTRL 和隐式 FTRL，并允许设计新的更新规则，如将 aProx 和 Mirror-Prox 扩展到 FTRL。我们的理论是构造性的，在于它提供了一个简单的统一框架来设计直接改进悔界最坏情况上界的更新。关键思想是用 Fenchel-Young 不等式替代损失的线性化。我们通过证明一些已知算法（如 Mirror-Prox 更新）是广义隐式 FTRL 的实例来展示该框架的灵活性。最后，新框架允许我们以相同的计算复杂度恢复隐式 OMD 的时间变化界。
引用
@article{arxiv.2306.00201,
title = {Generalized Implicit Follow-The-Regularized-Leader},
author = {Keyi Chen and Francesco Orabona},
journal= {arXiv preprint arXiv:2306.00201},
year = {2023}
}