中文

Dantzig 选择器与 LASSO 稀疏恢复稳定性的理论分析

统计理论 2017-11-13 v1 统计理论

摘要

Dantzig 选择器(DS)和 LASSO 问题在统计学习、稀疏数据恢复和数学优化中引起了大量关注。在本文中,我们从更一般的设定和新的视角对这类优化问题的稀疏恢复稳定性提供了理论分析。我们在称为转置设计矩阵的弱值域空间性质这一温和假设下,建立了这些优化问题的恢复误差界。该假设比众所周知的稀疏恢复条件(如限制等距性质(RIP)、零空间性质(NSP)或互相关性)限制更少。事实上,我们的分析表明,为了保持标准 DS 问题的稀疏恢复稳定性,该假设是紧的且不可放宽。因此,在包括 δ2k<1/2\delta_{2k}< 1/\sqrt{2} 的 RIP 和 kk 阶(无常数)标准 NSP 在内的各种矩阵性质下,建立了一系列关于 DS 和 LASSO 的新的稳定性结果。我们证明这些矩阵性质可以为 DS 和 LASSO 给出相同的恢复误差界,其稳定系数由所谓的 Robinson 常数度量,而非传统的 RIP 或 NSP 常数。据我们所知,这是首次为 DS 和 LASSO 问题建立具有此种统一特征的稳定性结果。与本领域标准分析不同,我们的分析是确定性地进行的,分析中使用的关键分析工具包括 Hoffman 和 Robinson 的线性系统误差界以及 Barvinok 的对称凸体多面体逼近。

关键词

引用

@article{arxiv.1711.03783,
  title  = {A Theoretical Analysis of Sparse Recovery Stability of Dantzig Selector and LASSO},
  author = {Yun-Bin Zhao and Duan Li},
  journal= {arXiv preprint arXiv:1711.03783},
  year   = {2017}
}