正交最小二乘法的近乎最优界

本文研究用于稀疏恢复的正交最小二乘（OLS）算法。一方面，我们证明，若采样矩阵 $\mathbf{A}$ 满足 $K + 1$ 阶约束等距性质（RIP），且等距常数满足 $$\delta_{K + 1} < \frac{1}{\sqrt{K+1}},$$ 则 OLS 能在 $K$ 次迭代中从样本 $\mathbf{y} = \mathbf{A} \mathbf{x}$ 精确恢复任意 $K$-稀疏向量 $\mathbf{x}$ 的支撑集。另一方面，我们证明，若 $$\delta_{K + 1} \geq \frac{1}{\sqrt{K+\frac{1}{4}}},$$ 则对于某些 $K$，OLS 可能无法在 $K$ 次迭代中恢复 $K$-稀疏向量 $\mathbf{x}$ 的支撑集。