具有时变目标函数的非凸双层优化
最优化与控制
2023-11-10 v2 机器学习
摘要
双层优化已成为各类机器学习问题中的有力工具。然而，当前的非凸双层优化考虑的是离线数据集和静态函数，在具有流数据和时变函数的新兴在线应用中可能表现不佳。在本工作中，我们研究在线双层优化（OBO），其中函数可以是时变的，且智能体利用在线流数据持续更新决策。为应对 OBO 中的函数变化以及真实超梯度不可得的问题，我们提出了一种带窗口平均的单循环在线双层优化器（SOBOW），其基于存储在内存中的最近超梯度估计的窗口平均值来更新外层决策。与现有算法相比，SOBOW 计算高效且无需知晓先前的函数。为处理 OBO 中源于单循环更新和函数变化的独特技术困难，我们开发了一种新颖的分析技术，解耦决策变量之间的复杂耦合，并仔细控制超梯度估计误差。我们证明在温和条件下 SOBOW 可实现次线性的双层局部遗憾。跨多个领域的广泛实验证实了 SOBOW 的有效性。
引用
@article{arxiv.2308.03811,
title = {Non-Convex Bilevel Optimization with Time-Varying Objective Functions},
author = {Sen Lin and Daouda Sow and Kaiyi Ji and Yingbin Liang and Ness Shroff},
journal= {arXiv preprint arXiv:2308.03811},
year = {2023}
}