压缩感知算法的近理想行为

在最近的一篇论文中，证明了LASSO算法具有“近理想行为”，具体如下：假设$y = Az + \eta$，其中$A$满足具有足够小常数的受限等距性质（RIP），且$\Vert \eta \Vert_2 \leq \epsilon$。那么，在约束$\Vert y - Az \Vert_2 \leq \epsilon$下最小化$\Vert z \Vert_1$得到的估计$\hat{x}$的误差$\Vert \hat{x} - x \Vert_2$被一个通用常数乘以知道$x$非零分量位置的“预言机”所达到的误差所界定。在优化领域，LASSO算法已在多个方向上得到推广，例如群LASSO、稀疏群LASSO（无或有树结构重叠群），以及最近的排序LASSO。本文证明，只要满足以下条件，任何算法都具有上述意义上的近理想行为：（i）用于定义稀疏性指标的范数是“可分解的”；（ii）为强制稀疏性而最小化的惩罚范数是“$\gamma$-可分解的”；（iii）满足基于群受限等距性质的“可压缩性条件”。具体而言，群LASSO、稀疏群LASSO（允许群间有一定重叠）以及排序$\ell_1$范数最小化均表现出近理想行为。推导了残差误差的显式界，这些界包含了先前已知的结果作为特例。