中文

基于 inf-projection 的 Kurdyka-Łojasiewicz 指数

最优化与控制 2021-01-14 v2 机器学习

摘要

Kurdyka-Lojasiewicz (KL) 指数在估计许多当代一阶方法的收敛速率方面起着重要作用。特别地,合适势函数的 KL 指数为 12\frac{1}{2} 与局部线性收敛相关。然而,KL 指数在一般情况下极难估计。在本文中,我们证明了在温和假设下,KL 指数可通过 inf-projection 保持。inf-projection 是通过提升-投影方法重构优化问题时普遍存在的一种基本操作。通过研究其对 KL 指数的作用,我们表明在严格互补等条件下,几种重要的凸优化模型的 KL 指数为 12\frac{1}{2},包括一些半定规划可表示函数和涉及 C2C^2-锥可约结构的函数。我们的结果适用于具体的优化模型,如组融合 Lasso 和重叠组 Lasso。此外,对于非凸模型,我们表明许多凸-凸差函数的 KL 指数可以从其自然优函数的 KL 指数中推导出来,并且函数的 Bregman envelope 的 KL 指数与函数本身的 KL 指数相同。最后,我们估计了最小二乘函数与秩至多为 kk 的矩阵集合指示函数之和的 KL 指数。

关键词

引用

@article{arxiv.1902.03635,
  title  = {Kurdyka-{\L}ojasiewicz exponent via inf-projection},
  author = {Peiran Yu and Guoyin Li and Ting Kei Pong},
  journal= {arXiv preprint arXiv:1902.03635},
  year   = {2021}
}