用于无 Knockoff 可控特征选择的归一化流
机器学习
2022-10-24 v3 机器学习
摘要
可控特征选择旨在发现响应所依赖的特征,同时将错误发现率(FDR)限制在预设水平。近来,多种基于深度学习的方法被提出,通过 Model-X knockoff 框架进行可控特征选择。然而,我们证明这些方法常因两个原因无法控制 FDR。首先,这些方法常学到不准确的特征模型。其次,knockoff 有效性所需的“交换(swap)”性质常未被很好地执行。我们提出一种称为 FlowSelect 的新流程来进行可控特征选择,它不遭受这两个问题中的任何一个。为了更准确地建模特征,FlowSelect 使用归一化流(normalizing flows)——密度估计的前沿方法。FlowSelect 不使用“交换”性质,而是使用一种新颖的基于 MCMC 的流程直接计算每个特征的 p 值。渐近地,FlowSelect 计算有效的 p 值。在经验上,FlowSelect 在合成与半合成基准上始终控制 FDR,而竞争的基于 knockoff 的方法则不能。FlowSelect 在这些基准上也展现出更强的功效(power)。此外,FlowSelect 从 GWAS 数据中正确推断出与特定大豆性状相关的遗传变异。
引用
@article{arxiv.2106.01528,
title = {Normalizing Flows for Knockoff-free Controlled Feature Selection},
author = {Derek Hansen and Brian Manzo and Jeffrey Regier},
journal= {arXiv preprint arXiv:2106.01528},
year = {2022}
}
备注
Accepted to 36th Conference on Neural Information Processing Systems (NeurIPS 2022). 21 pages, 9 figures, 3 tables