用于确定性与随机强凸优化问题的二次割束方法
最优化与控制
2024-10-02 v5
摘要
我们引入两种用于确定性凸优化问题的新方法:QCC(凸优化的二次割)与 QB(二次束方法)。我们证明了这些方法对于复合优化问题的复杂度,该类问题是凸函数 与参数为 的强凸函数 之和。这些方法以强凸函数 的二次逼近为基本构件,其中二次项为形式 (对应迭代中算出的试验点 ;当 时基本构件为线性逼近)。我们将使用二次逼近处理目标函数片段的思想推广到某些多阶段随机优化问题,其具有强凸递推函数,我们将其近似为二次割的最大值。相应的优化方法称为 DASC(强凸优化的动态逼近)。当割为线性时,该方法退化为流行的随机对偶动态规划(SDDP)方法。我们给出了保证递推函数强凸性的条件并证明了 DASC 的收敛性。数值实验说明了 DASC 的性能与正确性,在强凸常数较大时 DASC 远快于 SDDP。
引用
@article{arxiv.1711.04650,
title = {Bundle methods with quadratic cuts for deterministic and stochastic strongly convex optimization problems},
author = {Vincent Guigues and Adriana Washington},
journal= {arXiv preprint arXiv:1711.04650},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:1707.00812