随机二次型的下尾,及其在普通最小二乘法和受限特征值性质中的应用
概率论
2013-12-11 v1 信息论
math.IT
统计理论
统计理论
摘要
随机协方差型矩阵的有限样本性质一直是许多研究的主题。在本文中,我们关注此类矩阵的“下尾”,并证明在随机向量的一维边缘分布满足简单的四阶矩假设下,其具有次高斯性。类似的结果也适用于更一般的随机半正定矩阵之和,其(相对简单的)证明使用了所谓 PAC-Bayesian 方法来界定经验过程的变体。我们给出了主要结果的两个应用。第一个应用中,我们在具有随机设计的线性回归中获得了普通最小二乘估计量的新有限样本界。我们的结果不依赖于模型,仅需较弱的矩假设,且几乎是最优的。第二个应用是界定具有“重尾”的某些随机系综的受限特征值常数。这些常数在压缩感知和高维统计问题的分析中至关重要,在这些领域中人们从少量线性测量中恢复稀疏向量。我们的结果表明,重尾仍然允许像 LASSO 和 Dantzig 选择器这样的高效方法所具有的快速恢复率。在此过程中,我们通过一个相当简短的论证加强了 Rudelson 和 Zhou 关于受限特征值性质的近期结果。
引用
@article{arxiv.1312.2903,
title = {The lower tail of random quadratic forms, with applications to ordinary least squares and restricted eigenvalue properties},
author = {Roberto Imbuzeiro Oliveira},
journal= {arXiv preprint arXiv:1312.2903},
year = {2013}
}
备注
36 pages