在非相关与相关字典中使用正交最小二乘法进行信号恢复

尽管最小二乘法在求解信号处理问题中已被长期使用，但在近期由压缩测量进行稀疏恢复的领域中，该方法并未受到太多关注。在本文中，我们展示了最小二乘法家族中一种被称为正交最小二乘法 (Orthogonal Least Squares, OLS) 的方法，在适配于压缩恢复问题后，具有竞争力的恢复性能和计算复杂度，这使其成为正交匹配追踪 (Orthogonal Matching Pursuit, OMP) 等流行贪婪方法的合适替代方案。我们证明，经过轻微修改，OLS 能够从 $M=\mathcal{O}(K\log (N/K))$ 次高斯字典测量中精确恢复嵌入在 $N$ 维空间 ($K<<N$) 中的 $K$-稀疏信号。我们还表明，OLS 可以轻松实现，使其需要 $\mathcal{O}(KMN)$ 次浮点运算，与 OMP 相似。本文还研究了 OLS 在具有相关字典的传感矩阵下的性能，在此类情况下 OMP 等算法并未表现出良好的恢复性能。我们研究了 OLS 在一种称为*广义混合字典* 的特定字典中的恢复性能，该字典被证明是一种相关字典，并在数值上表明在这些类型的字典中，OLS 在恢复性能方面远优于 OMP。最后，我们提供了分析论证，以证实数值示例中的发现。