稀疏线性回归的信噪比感知型最小混合分析

我们考虑稀疏线性回归中的参数估计问题——这是一个在高维统计和压缩感知中广泛研究的课题。虽然最小混合框架是研究该问题统计最优性的最基本方法之一，但我们发现现有最小混合分析面临两个重要问题：(i) 信噪比似乎对最小混合最优性没有影响，而在数值模拟中却显示出重大影响。(ii) 诸如最佳子集选择和 Lasso 之类的估计器被证明是最小混合最优的，然而它们在模拟中表现出显著不同的性能。本文通过采用一种考虑信噪比变化的最小混合框架（称为信噪比感知型最小混合框架）来解决上述两个问题。我们采用精细的高阶渐近分析技术来获取信噪比感知型最小混合风险。我们的理论发现确定了三个 distinct 的信噪比 regime：低信噪比、中信噪比和高信噪比，在这三个 regime 中，最小混合最优估计器 exhibit 显著ly 不同的行为。新理论不仅为实验结果提供了更好的阐述，也为从噪声数据中估计稀疏信号提供了新的见解。