通过与极小极大去噪的联系准确预测压缩感知中的相变
信息论
2013-01-09 v2 math.IT
统计理论
统计理论
摘要
压缩感知指出，在一定限度内可以对稀疏信号进行欠采样并仍能准确重构。了解此类欠采样的精确限度对理论与实践均至关重要。我们提出了一个刻画广义稀疏对象允许欠采样程度的公式。该公式适用于压缩感知的近似消息传递 (AMP) 算法，此处将其推广为可使用除传统标量软阈值去噪器之外的去噪算子。本文给出若干示例，包括并非源自凸惩罚的标量去噪器（firm shrinkage 非线性与 minimax 非线性），以及非标量去噪器（块阈值、单调回归与全变分最小化）。令变量 eps = k/N 和 delta = n/N 分别表示按 y=Ax_0 对 k-广义稀疏 N 维向量 x_0 采样时的广义稀疏度与欠采样比例。此处 A 为 entries 为独立同分布标准高斯变量的 n\times N 测量矩阵。该公式表明，分隔 AMP 成功与失败重构 x_0 的相变曲线 delta = delta(eps) 由下式给出：delta = M(eps| Denoiser)，其中 M(eps| Denoiser) 表示在直接观测问题 y = x + z 中指定且最优调参的去噪器的每坐标极小极大均方误差 (MSE)。简言之，无噪声欠采样问题的相变等同于去噪问题中的极小极大 MSE。
引用
@article{arxiv.1111.1041,
title = {Accurate Prediction of Phase Transitions in Compressed Sensing via a Connection to Minimax Denoising},
author = {David Donoho and Iain Johnstone and Andrea Montanari},
journal= {arXiv preprint arXiv:1111.1041},
year = {2013}
}
备注
71 pages, 32 pdf figures