黑盒模型特征选择的留出随机化检验
统计方法学
2021-03-23 v4
摘要
我们提出了留出随机化检验（HRT），一种使用黑盒预测模型进行特征选择的方法。HRT 是条件随机化检验（CRT；Candes 等，2018）的一个特化版本，它使用数据拆分以实现可行计算。HRT 适用于任何预测模型，并为每个特征生成有效的 值。为了使 HRT 更具实用性，我们提出了一组扩展方案，以最大化功效并加速计算。在模拟中，这些扩展方案比基于 knockoffs 的竞争方法具有更高的功效，同时不牺牲对错误率的控制。我们将 HRT 应用于科学文献中的两个案例研究，这些研究最初使用启发式方法为预测模型选择重要特征。结果说明了与 HRT 等有原则的方法相比，此类启发式方法可能会产生误导。代码可在 https://github.com/tansey/hrt 获取。
引用
@article{arxiv.1811.00645,
title = {The Holdout Randomization Test for Feature Selection in Black Box Models},
author = {Wesley Tansey and Victor Veitch and Haoran Zhang and Raul Rabadan and David M. Blei},
journal= {arXiv preprint arXiv:1811.00645},
year = {2021}
}
备注
New algorithms and simulations; accepted for publication at JCGS