具理论保证的鲁棒优化学习之路
机器学习
2025-06-18 v1 最优化与控制
摘要
学习优化(L2O)是一种以学习为基础的方法来解决数学优化问题的新兴技术。尽管在无线通信、计算机网络和电子设计等许多实际场景中取得了巨大成功，但现有的L2O工作缺乏对其在分布外(OOD)场景下的性能和鲁棒性的理论证明。我们填补了这一空白，通过提供完整的理论证明。首先，我们证明了具备在所有分布内(InD)实例中均匀收敛速率的鲁棒L2O模型的充分条件。我们假设L2O模型在某一InD情景下具备鲁棒性。基于我们提出的方法论，将OOD问题对齐到InD问题，我们还展示了L2O模型在OOD情景下的收敛速率会因L2O模型输入特征的方程而恶化。此外，我们提出一种具有简洁梯度唯一特征构建和新颖梯度历史建模方法的L2O模型。数值仿真表明，我们提出的模型在InD和OOD情景下均优于最先进的基线，实现了最高可达10倍的收敛加速。本方法的代码可在https://github.com/NetX-lab/GoMathL2O-Official获取。
引用
@article{arxiv.2506.14263,
title = {Towards Robust Learning to Optimize with Theoretical Guarantees},
author = {Qingyu Song and Wei Lin and Juncheng Wang and Hong Xu},
journal= {arXiv preprint arXiv:2506.14263},
year = {2025}
}
备注
Published in CVPR 2024, 55 pages, 17 figures, this version fixed some typo