中文

基于 Moreau 包络差平滑的差分凸(DC)规划算法

最优化与控制 2022-11-21 v2

摘要

本文考虑带与不带线性约束的差分凸(DC)函数的最小化。我们首先研究一类通用 DC 函数的平滑近似,称为 Moreau 包络差(DME)平滑,其中 DC 函数的两个分量均被各自的 Moreau 包络替代。所得到的平滑近似被证明是 Lipschitz 可微的,能捕捉原 DC 函数的驻点、局部与全局极小值,并对广泛类别的 DC 函数满足某些增长条件,如水平有界性与强制性。随后我们基于 DME 平滑开发了四种求解带与不带线性约束 DC 规划的算法。特别地,对于无线性约束的平滑 DC 规划,我们证明经典梯度下降法及其不精确变体可在极限处获得驻点解,收敛速率为 O(K1/2)\mathcal{O}(K^{-1/2}),其中 KK 为两个分量的近端计算次数。此外,当 DC 规划显式约束于仿射子空间时,我们将平滑技术与增广拉格朗日函数结合,导出增广拉格朗日法(ALM)的两个变体,称为 LCDC-ALM 与复合 LCDC-ALM,侧重于 DC 目标函数的不同结构。我们证明两种算法均在 O(ϵ2)\mathcal{O}(\epsilon^{-2}) 次迭代内找到原 DC 规划的 ϵ\epsilon-近似驻点解。与现有为线性约束弱凸最小化设计的方法相比,所提基于 ALM 的算法可应用于更广泛的问题类,其中目标函数含有非光滑凹分量。最后,给出数值实验以展示所提算法的性能。

关键词

引用

@article{arxiv.2104.01470,
  title  = {Algorithms for Difference-of-Convex (DC) Programs Based on Difference-of-Moreau-Envelopes Smoothing},
  author = {Kaizhao Sun and Xu Andy Sun},
  journal= {arXiv preprint arXiv:2104.01470},
  year   = {2022}
}