高维中对称惩罚最小二乘的近似可分离性：刻画与推论

我们表明，在（i）高斯序列模型和（ii）具有不相关高斯设计的线性模型中，带有可能是不可分离的、对称的、凸的惩罚的高维对称惩罚最小二乘的行为，几乎匹配这些相同模型中带有适当选择的可分离惩罚的最小二乘的行为。在两种情况下，行为的相似性均由有限样本集中不等式精确量化。我们的结果有助于澄清不可分离性在高维 M-估计中所起的作用。特别地，如果参数各坐标的经验分布已知——精确或近似已知——则使用不可分离的对称惩罚相对于可分离惩罚至多只有有限的优势。相反，如果参数各坐标的经验分布未知，我们认为不可分离的对称惩罚自动实现了一种我们予以刻画的适应性过程。我们还提供了一个部分逆结果，刻画了可用此方法实现的适应性过程。