椭圆分布 Tyler M 估计器的最优下界
统计理论
2025-10-16 v1 机器学习
统计理论
摘要
统计学中的一个基本问题是估计椭圆分布的形状矩阵。这一般化了人们熟悉的高斯协方差估计问题,后者的样本协方差实现了最优的估计误差。对于椭圆分布,Tyler 提出了一种自然的 M 估计器,并在渐近 regime 下展示了强大的统计特性,独立于底层分布。数值实验表明,这一估计器表现得很好,Tyler 的迭代过程快速收敛到该估计器。Franks 和 Moitra 最近首次在有限样本设置下提供了分布无关的误差下界,以及 Tyler 迭代过程的第一次严格收敛分析。然而,他们的结果相对于高斯设置的样本复杂度多了一个 因子。我们通过为所有椭圆分布的 Tyler M 估计器证明最优样本阈值和误差下界,完全匹配高斯结果,从而缩小了这一差距。此外,我们即使在这个更低的样本阈值下,也恢复了算法收敛性。我们的ethods 建立在 Franks 和 Moitra 的算子缩放连接基础上,通过引入一种称为 -扩张的新奇伪随机条件来实现。我们展示了椭圆分布在最优样本阈值处满足 -扩张,然后证明了满足此条件的输入的一种新型缩放结果。
引用
@article{arxiv.2510.13751,
title = {Optimal Bounds for Tyler's M-Estimator for Elliptical Distributions},
author = {Lap Chi Lau and Akshay Ramachandran},
journal= {arXiv preprint arXiv:2510.13751},
year = {2025}
}
备注
13 pages + proofs in Appendix