模型选择：两种基本相干性度量及其算法意义

模型选择问题出现在许多场景中，例如压缩感知、线性回归中的子集选择、图模型中的结构估计以及信号去噪。本文推广了现有模型选择文献中“不相干性”的概念，并引入了设计矩阵列之间的两种基本相干性度量——称为最坏情况相干性和平均相干性。特别地，本文利用这两种相干性度量，对用于模型选择的简单一步阈值（OST）算法进行了深入分析。由此分析得出的一个关键见解是，只要设计矩阵满足一个易于验证的性质，OST用于模型选择就是可行的。此外，本文还根据最坏情况相干性$\mu$刻画了OST的模型选择性能，并证明了对于$\mu = O(N^{-1/2})$的$N \times C$设计矩阵，OST在低信噪比区间内表现接近最优。最后，与现有的一些模型选择文献不同，本文的分析在本质上是渐近无关的，它不需要知道真实模型阶数的知识，适用于通用（随机或确定性）设计矩阵，既不要求设计矩阵的子矩阵满秩，也不假设数据向量非零元素值上存在统计先验。