面向重尾数据的收缩原则:高维鲁棒低秩矩阵恢复
统计理论
2017-05-08 v2 统计方法学
统计理论
摘要
本文通过适当的数据收缩引入了一个用于鲁棒高维统计推断的简单原则。这拓宽了高维技术的范围,将矩条件从次指数或次高斯分布降低到仅有有界二阶或四阶矩。作为该原则的一个说明,我们专注于从迹回归模型 中鲁棒估计低秩矩阵 。它包含四个常见问题:稀疏线性模型、压缩感知、矩阵补全和多任务回归。我们提议对适当截断或收缩的数据应用惩罚最小二乘法。仅在响应变量满足有界 矩条件下,所提出的鲁棒方法给出的估计量拥有与先前文献中次高斯误差下相同的统计误差率。对于稀疏线性模型和多重任务回归,我们进一步允许设计矩阵仅具有有界四阶矩,并通过设计矩阵的适当收缩再次获得相同的统计率。作为副产品,我们给出了一个鲁棒协方差矩阵估计量,并在随机样本仅有有界四阶矩时建立了其谱范数下的浓度不等式。我们进行了大量仿真以支持我们的理论。
引用
@article{arxiv.1603.08315,
title = {A Shrinkage Principle for Heavy-Tailed Data: High-Dimensional Robust Low-Rank Matrix Recovery},
author = {Jianqing Fan and Weichen Wang and Ziwei Zhu},
journal= {arXiv preprint arXiv:1603.08315},
year = {2017}
}
备注
57 pages