压缩感知 $\ell_0$ 正则化的相图
信息论
2025-11-13 v2 无序系统与神经网络
math.IT
摘要
无噪声压缩感知是一个两步的设置,允许对稀疏信号进行欠采样并在不损失信息的情况下重构。基于 正则化的 LASSO 算法为解决此问题提供了高效且稳健的方法,但在压缩率非常高的情景下会失败。本文提出了两种基于 正则化的算法,这些算法在高斯设计情景下的压缩率方面优于 LASSO。这些算法基于大约 Survey Propagation,是 Approximate Message Passing 系列中的算法。在大系统极限下,它们可以通过 State Evolution 方程进行严格跟踪,并且可以精确预测在哪些压缩率下可以实现完美信号重构。我们还提供了 范数无噪声压缩感知模型的统计物理分析。我们展示了在足够低的 范数正则化下,存在 both 主导对称状态和 1 步骤失配对称状态(1RSB)。我们算法的恢复极限与 1RSB 解的行为相关联。
引用
@article{arxiv.2408.08319,
title = {The phase diagram of compressed sensing with $\ell_0$-norm regularization},
author = {Damien Barbier and Carlo Lucibello and Luca Saglietti and Florent Krzakala and Lenka Zdeborová},
journal= {arXiv preprint arXiv:2408.08319},
year = {2025}
}
备注
arXiv admin note: substantial text overlap with arXiv:2304.12127