中文

压缩感知 $\ell_0$ 正则化的相图

信息论 2025-11-13 v2 无序系统与神经网络 math.IT

摘要

无噪声压缩感知是一个两步的设置,允许对稀疏信号进行欠采样并在不损失信息的情况下重构。基于 \lone\lone 正则化的 LASSO 算法为解决此问题提供了高效且稳健的方法,但在压缩率非常高的情景下会失败。本文提出了两种基于 \lzero\lzero 正则化的算法,这些算法在高斯设计情景下的压缩率方面优于 LASSO。这些算法基于大约 Survey Propagation,是 Approximate Message Passing 系列中的算法。在大系统极限下,它们可以通过 State Evolution 方程进行严格跟踪,并且可以精确预测在哪些压缩率下可以实现完美信号重构。我们还提供了 \lzero\lzero 范数无噪声压缩感知模型的统计物理分析。我们展示了在足够低的 \lzero\lzero 范数正则化下,存在 both 主导对称状态和 1 步骤失配对称状态(1RSB)。我们算法的恢复极限与 1RSB 解的行为相关联。

关键词

引用

@article{arxiv.2408.08319,
  title  = {The phase diagram of compressed sensing with $\ell_0$-norm regularization},
  author = {Damien Barbier and Carlo Lucibello and Luca Saglietti and Florent Krzakala and Lenka Zdeborová},
  journal= {arXiv preprint arXiv:2408.08319},
  year   = {2025}
}

备注

arXiv admin note: substantial text overlap with arXiv:2304.12127