非稀疏高维线性模型中的两样本检验
统计理论
2017-08-16 v1 统计方法学
机器学习
统计理论
摘要
在分析高维模型时,模型参数的稀疏性是一个常见但往往不合意的假设。本文研究如下两样本检验问题:给定由两个高维线性模型生成的两个样本,我们旨在检验两个线性模型的回归系数是否相同。我们提出一个名为 TIERS(意为检验回归斜率相等,TestIng Equality of Regression Slopes)的框架,其在不对回归参数的稀疏性作任何假设的情况下解决两样本检验问题。TIERS 通过以某种方式卷积两个样本来构建新模型,使得原始假设转化为新的矩条件。然后开发自归一化构造以形成矩检验。我们为所开发框架提供严格理论。在特征协方差的非常弱条件下,我们表明所提检验在控制第一类错误方面的准确性对特征中缺乏稀疏性以及误差分布中的重尾都鲁棒,即使样本量远小于特征维度。此外,我们讨论所提检验的极小极大最优性和效率性质。模拟分析展示了我们检验优秀的有限样本性能。在推导检验时,我们还开发了具有独立意义的工具。该检验建立在一个称为自动自适应 Dantzig 选择器(ADDS)的新估计量之上,其不仅自动选择误差项的适当尺度,而且融入先验信息。为有效近似检验统计量的临界值,我们开发了一种新颖的高维插件方法,补充了高斯近似理论的最新进展。
引用
@article{arxiv.1610.04580,
title = {Two-sample testing in non-sparse high-dimensional linear models},
author = {Yinchu Zhu and Jelena Bradic},
journal= {arXiv preprint arXiv:1610.04580},
year = {2017}
}
备注
55 pages, 1 figure