去相关变量重要性
统计方法学
2021-11-23 v1 机器学习
摘要
由于随机森林和神经网络等黑盒预测方法的广泛使用，在可解释预测的更广泛目标下，开发量化变量重要性的方法重新引起兴趣。一种流行的方法是基于从回归模型中丢弃协变量来定义一个变量重要性参数——称为 LOCO（Leave Out COvariates，丢出协变量）。这本质上是 R 平方的非参数版本。该参数非常通用且可以非参数地估计，但由于受协变量间相关性的影响，可能难以解释。我们提出一种通过定义 LOCO 的修正版本来减轻相关性影响的方法。这一新参数难以非参数估计，但我们展示了如何使用半参数模型来估计它。
引用
@article{arxiv.2111.10853,
title = {Decorrelated Variable Importance},
author = {Isabella Verdinelli and Larry Wasserman},
journal= {arXiv preprint arXiv:2111.10853},
year = {2021}
}