黎曼统计遇见随机矩阵理论：面向高维协方差矩阵的学习
统计理论
2023-02-16 v2 概率论
统计计算
机器学习
统计理论
摘要
黎曼高斯分布最初是作为学习模型的基本构建块引入的，这类模型旨在捕捉正定矩阵（此处称为协方差矩阵）统计总体的内在结构。尽管此类模型的潜在应用引起了极大关注，但这些应用仍面临一个主要障碍：似乎不存在计算高维协方差矩阵空间上黎曼高斯分布归一化因子的实用方法。本文表明，这一缺失的方法来自与随机矩阵理论出人意料的新联系。其主要贡献是证明实、复或四元数协方差矩阵的黎曼高斯分布分别等价于正交、酉或辛对数正态矩阵系综。该等价性通过相当简单的解析表达式高效近似归一化因子。此近似的误差随维度平方的倒数递减。数值实验表明，这一新近似如何化解阻碍高维协方差矩阵真实数据集应用的难题。随后本文转向块 Toeplitz 协方差矩阵的黎曼高斯分布。它们等价于另一种随机矩阵系综，此处称为“acosh-normal”系综。正交和酉“acosh-normal”系综分别对应于具有 Toeplitz 块的块 Toeplitz 协方差矩阵，以及块 Toeplitz（一般块）协方差矩阵的情形。
引用
@article{arxiv.2203.00204,
title = {Riemannian statistics meets random matrix theory: towards learning from high-dimensional covariance matrices},
author = {Salem Said and Simon Heuveline and Cyrus Mostajeran},
journal= {arXiv preprint arXiv:2203.00204},
year = {2023}
}