中文

面向带记忆成本的在线优化的鲁棒化学习

机器学习 2023-05-02 v1 数据结构与算法

摘要

带记忆成本的在线优化具有许多现实应用,其中序贯动作在不获知未来输入的情况下做出。然而,记忆成本使各时刻动作相互耦合,带来显著挑战。传统上,该问题由各类专家设计的在线算法以达成有界最坏情况竞争比为目标来处理,但所得平均性能常不尽如人意。另一方面,新兴的机器学习(ML)优化器可改善平均性能,却缺乏最坏情况性能鲁棒性。本文中,我们提出一种新颖的专家鲁棒化学习(ERL)方法,同时实现良好的平均性能与鲁棒性。更具体地,为鲁棒性,ERL 引入一种新颖的投影算子,利用专家在线算法对 ML 动作进行鲁棒化;为平均性能,ERL 基于循环架构训练 ML 优化器,并显式考虑下游专家鲁棒化。我们证明,对任意 λ1\lambda\geq1,ERL 可相对于专家算法达到 λ\lambda-竞争,并相对于最优离线算法达到 λC\lambda\cdot C-竞争(其中 CC 为专家的竞争比)。此外,我们将分析拓展至多步记忆成本的新设定。最后,针对能源调度应用的实证实验支持了我们的分析。

关键词

引用

@article{arxiv.2305.00677,
  title  = {Robustified Learning for Online Optimization with Memory Costs},
  author = {Pengfei Li and Jianyi Yang and Shaolei Ren},
  journal= {arXiv preprint arXiv:2305.00677},
  year   = {2023}
}

备注

This paper has been accepted by and will be presented at the INFOCOM 2023