时变系统中的在线自适应策略选择:基于压缩扰动的零后悔
最优化与控制
2023-06-14 v3
摘要
我们研究具有时变代价与动态的系统中的在线自适应策略选择。我们开发了基于梯度的自适应策略选择(GAPS)算法,以及通过在线优化进行在线策略选择的一般分析框架。在我们提出的压缩策略类概念下,表明 GAPS 逼近了理想在线梯度下降算法在策略参数上的行为,同时所需信息与计算更少。当凸性成立时,我们的算法首个实现了最优策略后悔。当凸性不成立时,我们给出了在线策略选择的首个局部后悔界。数值实验表明,GAPS 比现有基准能更快地适应变化的环境。
引用
@article{arxiv.2210.12320,
title = {Online Adaptive Policy Selection in Time-Varying Systems: No-Regret via Contractive Perturbations},
author = {Yiheng Lin and James A. Preiss and Emile Anand and Yingying Li and Yisong Yue and Adam Wierman},
journal= {arXiv preprint arXiv:2210.12320},
year = {2023}
}