基于$\ell_{p}$正则化统计量的Model-X Knockoffs的功效分析
统计理论
2022-04-28 v2 统计理论
摘要
利用惩罚似然估计的过程的变量选择性质是高维线性回归问题研究中的一个核心主题。现有文献强调此类过程对变量排序的质量，这反映在受试者工作特征曲线或预测性能中。具体而言，近期工作利用近似消息传递（AMP）的现代理论，在特定设置下获得了依赖于正则化估计量的选择过程的I型-II型错误权衡的精确渐近预测。在实践中，有效的排序本身往往是不够的，因为需要对I型错误进行一些校准。在这项工作中，我们从理论上研究了类似地通过正则化估计量的大小对特征进行排序、但在无关于信号的先验信息可用的现实情况下进一步使用Model-X knockoffs来控制错误发现率的选择过程的功效。在分析所得过程的功效时，我们将AMP理论的现有结果扩展到处理原始变量与其knockoffs之间的配对。这被用于推导功效的精确渐近预测。我们将一般结果应用于比较Lasso和阈值化Lasso选择的knockoffs版本的功效，并证明在所考虑的i.i.d.协变量设置下，在增广设计矩阵上通过交叉验证进行调参几乎是最优的。我们进一步展示了这些技术如何也允许分析II型S错误以及当选择辅以关于系数符号的决策时对应的功效概念。
引用
@article{arxiv.2007.15346,
title = {A Power Analysis for Model-X Knockoffs with $\ell_{p}$-Regularized Statistics},
author = {Asaf Weinstein and Weijie J. Su and Małgorzata Bogdan and Rina F. Barber and Emmanuel J. Candès},
journal= {arXiv preprint arXiv:2007.15346},
year = {2022}
}