受保护的学习型凸优化
最优化与控制
2022-09-28 v3 机器学习
摘要
在许多应用中,优化问题必须反复求解,每次使用新的(但相似的)数据。解析优化算法可被手工设计为以迭代方式可证明地解决这些问题。一方面,数据驱动算法可以"学习优化"(L2O),其迭代次数远少于通用优化算法且每次迭代成本相似。另一方面,遗憾的是,许多L2O算法缺乏收敛保证。为融合这些方法的优势,我们提出Safe-L2O框架。Safe-L2O更新包含一种保护措施,以保证具有邻近和/或梯度预言机的凸问题收敛。该保护措施实现简单且计算成本低,仅当数据驱动的L2O更新表现不佳或看似发散时才被激活。这带来了采用机器学习创建快速L2O算法的数值优势,同时仍保证收敛。我们的数值例子显示了Safe-L2O算法的收敛性,即使所提供的数据不来自训练数据的分布。
引用
@article{arxiv.2003.01880,
title = {Safeguarded Learned Convex Optimization},
author = {Howard Heaton and Xiaohan Chen and Zhangyang Wang and Wotao Yin},
journal= {arXiv preprint arXiv:2003.01880},
year = {2022}
}