相关设计下knockoff滤波器的功效分析
统计理论
2020-01-13 v3 信息论
机器学习
math.IT
机器学习
统计理论
摘要
Barber与Candès于2016年提出的knockoff滤波器是一种在变量选择中控制错误发现率的优雅框架。尽管经验结果表明该方法并不过于保守,但关于其功效尚无定论性的理论结果。当预测变量为独立同分布高斯时,已知随着信噪比趋于无穷,knockoff滤波器是一致的,即可以令错误发现率趋于0且功效趋于1。本文研究预测变量具有一般协方差矩阵的情形。我们引入一个称为协方差矩阵的有效信号亏量(ESD)的简单泛函,用以预测各种变量选择方法的一致性。特别地,ESD揭示精度矩阵的结构在一致性中起核心作用,因此预测变量的条件独立结构也起核心作用。为利用这一联系,我们引入条件独立knockoff,这是一种简单的过程,能够与更复杂的knockoff滤波器竞争,并且在预测变量服从高斯树图模型(或图足够稀疏)时定义。我们的理论结果得到合成数据数值证据的支持。
引用
@article{arxiv.1910.12428,
title = {Power analysis of knockoff filters for correlated designs},
author = {Jingbo Liu and Philippe Rigollet},
journal= {arXiv preprint arXiv:1910.12428},
year = {2020}
}
备注
Accepted to Neurips 2019. The conference version includes the contents of this version excluding the appendices. v3 on arXiv corrected some typos in v2