变量重要性得分

对预测响应中变量的重要性进行打分是一个定义不清的概念。已有若干方法被提出，但人们对其性能知之甚少。本文通过对十一种方法以及一种基于 GUIDE 算法的更新方法进行比较评估来填补这一空白。对于无缺失值的数据，其中八种方法被证明是有偏的，因为它们对不同类型变量给出更高或更低的得分，即使所有变量均与响应独立。在其余四种方法中，仅两种适用于含缺失值的数据，其中 GUIDE 是唯一无偏的。GUIDE 通过使用一个可应用于其他方法进行得分去偏的自校准步骤来实现无偏性。GUIDE 还给出了在 95% 和 99% 置信水平下区分重要与不重要变量的阈值；该技术同样适用于其他方法。最后，本文在三个数据集上研究了得分与预测能力的关系。发现许多方法的得分与边际预测能力而非条件预测能力更为一致。