中文

基于克罗内克积展开的高维协方差矩阵估计

统计方法学 2013-12-25 v9 机器学习

摘要

本文提出了一种估计高维协方差矩阵的新方法。该方法称为置换秩惩罚最小二乘法(PRLS),基于真实协方差矩阵的克罗内克积级数展开。假设独立同分布的高斯随机样本,我们建立了当样本数量和变量数量均趋于无穷大时,估计值收敛到真实协方差的高维收敛速率。对于低分离秩的协方差矩阵,我们的结果表明 PRLS 比标准样本协方差矩阵(SCM)估计量具有显著更快的收敛速度。该收敛速率捕捉了估计误差与近似误差之间的基本权衡,从而提供了一个在分离秩方面可扩展的协方差估计框架,类似于协方差矩阵的低秩近似。均方误差(MSE)收敛速率推广了最近针对克罗内克积协方差估计的 ML Flip-flop 算法所获得的高维速率。我们证明了一类块托普利茨协方差矩阵可用低分离秩进行近似,并给出了确保给定偏差水平的最小分离秩 rr 的界限。文中展示了模拟结果以验证理论界限。作为一个实际应用,我们说明了所提出的克罗内克协方差估计量在多元风速测量的时空线性最小二乘预测中的效用。

关键词

引用

@article{arxiv.1302.2686,
  title  = {Covariance Estimation in High Dimensions via Kronecker Product Expansions},
  author = {Theodoros Tsiligkaridis and Alfred O. Hero},
  journal= {arXiv preprint arXiv:1302.2686},
  year   = {2013}
}

备注

47 pages, accepted to IEEE Transactions on Signal Processing