基于 Bregman 散度的在线非凸双层优化
最优化与控制
2024-09-17 v1 机器学习
摘要
双层优化方法在机器学习中日益重要，特别是在超参数优化和元学习等任务中。与离线设定相比，在线双层优化（OBO）通过适应时变函数和序列到达的数据，提供了一个更具动态性的框架。本研究探讨在线非凸-强凸双层优化问题。在确定性设定下，我们引入了一种利用自适应 Bregman 散度的新型在线 Bregman 双层优化器（OBBO）。我们证明，通过一种适应问题底层几何的新型超梯度误差分解，OBBO 提升了已知的双层局部遗憾次线性收敛速率。在随机情形下，我们引入了首个随机在线双层优化器（SOBBO），该方法采用窗口平均方法，利用近期超梯度随机近似值的加权平均来更新外层变量。该方法不仅实现了双层局部遗憾的次线性收敛速率，而且作为一种有效的方差缩减策略，免除了在每个时间步额外采集随机梯度样本的需要。在在线超参数优化和在线元学习上的实验表明，与现有的在线和离线双层基准相比，我们基于 Bregman 的算法具有更优越的性能、效率和适应性。
引用
@article{arxiv.2409.10470,
title = {Online Nonconvex Bilevel Optimization with Bregman Divergences},
author = {Jason Bohne and David Rosenberg and Gary Kazantsev and Pawel Polak},
journal= {arXiv preprint arXiv:2409.10470},
year = {2024}
}