用于无模型变量选择的敲除提升树
统计方法学
2020-02-24 v1 定量方法
摘要
本文中，我们提出一种利用敲除（knockoff）方法与提升树（boosted tree）模型、在无需先验模型拓扑知识情况下进行变量选择的新策略。我们的方法受原始敲除方法启发，后者利用原始变量与敲除变量之间的差异进行变量选择并控制错误发现率（false discovery rate）。原方法使用 Lasso 处理回归模型，并假设样本数多于变量数。我们将该方法扩展至无模型与高维变量选择。我们提出两种生成敲除变量的新采样方法，即稀疏协方差敲除与主成分敲除方法。我们测试了这些方法，并在控制第一类错误与功效方面与原始敲除方法进行比较。提升树模型是一个复杂系统，其超参数多于假设更简单的模型。在我们的框架中，这些超参数或通过贝叶斯优化调优，或固定于多个层级以进行趋势检测。在模拟测试中，我们还比较了树模型重要性检验统计量的性质与表现。结果包含不同敲除方法与重要性检验统计量的组合。我们还考虑了包含主效应、交互、指数与二阶模型的场景，同时假定真实模型结构未知。我们将算法应用于利用癌症基因组图谱（TCGA）基因表达数据进行肿瘤纯度估计与肿瘤分类。所提算法包含于 KOBT 包中，可在 \url{https://cran.r-project.org/web/packages/KOBT/index.html} 获取。
引用
@article{arxiv.2002.09032,
title = {Knockoff Boosted Tree for Model-Free Variable Selection},
author = {Tao Jiang and Yuanyuan Li and Alison A. Motsinger-Reif},
journal= {arXiv preprint arXiv:2002.09032},
year = {2020}
}