低秩张量的推断——无需去偏
统计理论
2021-11-01 v2 机器学习
统计方法学
机器学习
统计理论
摘要
本文考虑若干低秩张量模型的统计推断。具体而言,在 Tucker 低秩张量 PCA 或回归模型中,给定任意达到某可达误差率的估计,我们基于经两次迭代交替最小化更新的估计的渐近分布,开发了参数张量奇异子空间的数据驱动置信域。渐近分布在关于信噪比(PCA 模型中)或样本量(回归模型中)的一些本质条件下建立。若参数张量进一步可正交分解,我们开发了针对每个单独奇异向量的推断方法及非渐近理论。对于秩一张量 PCA 模型,我们建立了主成分一般线性型的渐近分布以及参数张量每个元素的置信区间。最后,给出数值模拟以佐证我们的理论发现。在所有这些模型中,我们观察到不同于现有工作中许多矩阵/向量设定,建立估计的渐近分布或对低秩张量进行统计推断无需去偏。事实上,由于低秩张量估计中广泛存在的统计-计算鸿沟,通常需比统计(或信息论)极限更强的条件以确保计算可行的估计可达。令人惊讶的是,此类条件“顺带”使得无需去偏的低秩张量推断成为可能。
引用
@article{arxiv.2012.14844,
title = {Inference for Low-rank Tensors -- No Need to Debias},
author = {Dong Xia and Anru R. Zhang and Yuchen Zhou},
journal= {arXiv preprint arXiv:2012.14844},
year = {2021}
}
备注
to appear at the Annals of Statistics