OpReg-Boost：通过学习算子回归加速在线算法
机器学习
2022-04-05 v3 最优化与控制
摘要
本文提出一种称为 OpReg-Boost 的新正则化方法，用于加速在线优化与学习算法的收敛并减小其渐近误差。具体而言，本文考虑具有时变（弱）凸复合代价的优化问题的在线算法。对于给定的在线算法，OpReg-Boost 学习最接近的、能产生线性收敛的算法映射；为此，学习过程依赖于算子回归的概念。我们展示了如何形式化算子回归问题，并提出了一种计算高效的 Peaceman-Rachford 求解器，其利用了简单二次约束二次规划(QCQP)的闭式解。仿真结果展示了 OpReg-Boost 相对于更经典的 forward-backward 算法、FISTA 与 Anderson 加速的优越性质。
引用
@article{arxiv.2105.13271,
title = {OpReg-Boost: Learning to Accelerate Online Algorithms with Operator Regression},
author = {Nicola Bastianello and Andrea Simonetto and Emiliano Dall'Anese},
journal= {arXiv preprint arXiv:2105.13271},
year = {2022}
}
备注
Code available here https://github.com/nicola-bastianello/reg4opt To be presented at the 4th Annual Learning for Dynamics & Control Conference (L4DC'22)