pDCA$_e$的精细化收敛分析及其在同时稀疏恢复与离群点检测中的应用
最优化与控制
2018-04-20 v1 机器学习
摘要
我们考虑最小化一个凸差(DC)函数的问题，该函数可写为具有Lipschitz梯度的光滑凸函数、一个真闭凸函数和一个连续可能非光滑凹函数之和。我们细化了[38]中带外推的近端DC算法(pDCA)的收敛分析，并表明在不对凹部施加可微性假设的情况下，当目标函数水平有界时算法生成的整个序列收敛。我们的分析基于一个新的势函数，并假设该势函数是一个Kurdyka-{\L}ojasiewicz(KL)函数。我们还建立了我们的KL假设与[38]中使用的假设之间的关系。最后，我们展示了pDCA如何应用于一类同时稀疏恢复与离群点检测问题，这些问题来自信号处理中的鲁棒压缩感知和统计学中的最小截断平方回归。具体而言，我们表明这些问题的目标可写为水平有界的DC函数，其凹部通常非光滑。此外，对于一大类损失函数和正则化器，相应势函数的KL指数被证明为1/2，这意味着当应用于这些问题时pDCA局部线性收敛。我们的数值实验表明，在该特定应用中，pDCA通常在CPU时间和解质量上都优于带非单调线搜索的近端DC算法[24, 附录A]。
引用
@article{arxiv.1804.07213,
title = {A refined convergence analysis of pDCA$_e$ with applications to simultaneous sparse recovery and outlier detection},
author = {Tianxiang Liu and Ting Kei Pong and Akiko Takeda},
journal= {arXiv preprint arXiv:1804.07213},
year = {2018}
}