中文

重尾分布下的仿射不变协方差估计

统计理论 2019-09-25 v2 概率论 机器学习 统计理论

摘要

本文中我们给出了一种针对重尾多元分布协方差矩阵的估计量。我们证明所提出的估计量 S^\widehat{\mathbf{S}} 在高概率下满足如下形式的仿射不变界:(1ε)SS^(1+ε)S(1-\varepsilon) \mathbf{S} \preccurlyeq \widehat{\mathbf{S}} \preccurlyeq (1+\varepsilon) \mathbf{S},其中 S\mathbf{S} 为未知协方差矩阵,\preccurlyeq 为对称矩阵上的半正定序。该结果仅要求四阶矩存在,并允许 ε=O(κ4dlog(d/δ)/n)\varepsilon = O(\sqrt{\kappa^4 d\log(d/\delta)/n}),其中 κ4\kappa^4 为分布峰度的度量,dd 为空间维数,nn 为样本量,1δ1-\delta 为期望置信水平。更一般地,我们可引入水平为 λ\lambda 的正则化,此时 dd 由自由度数量替代。记 cond(S)\text{cond}(\mathbf{S})S\mathbf{S} 的条件数,该新估计量的计算代价为 O(d2n+d3log(cond(S)))O(d^2 n + d^3\log(\text{cond}(\mathbf{S}))),在统计意义下有趣的区间 ndn \ge d 内与样本协方差估计量代价相当。我们考虑了该估计量在相对误差特征值估计及重尾随机设计岭回归中的应用。

关键词

引用

@article{arxiv.1902.03086,
  title  = {Affine Invariant Covariance Estimation for Heavy-Tailed Distributions},
  author = {Dmitrii Ostrovskii and Alessandro Rudi},
  journal= {arXiv preprint arXiv:1902.03086},
  year   = {2019}
}