Berkelmans-Pries 特征重要性方法：一种通用的特征信息量度量
机器学习
2023-01-13 v1 计算机科学与博弈论
统计理论
应用统计
机器学习
统计理论
摘要
在过去几年中，机器学习模型的使用已成为一种通用且强大的预测手段。与此同时，对预测模型可解释性的需求日益增长。为了确定数据集中哪些特征对预测目标变量 重要，可使用特征重要性（FI）方法。通过量化每个特征对预测 的重要性，可以识别并移除无关特征，这可能提高模型的速度和准确率，此外还能发现重要特征，从而带来有价值的见解。评估 FI 方法的一个主要问题是，真实 FI 通常未知。因此，现有 FI 方法不能给出完全正确的 FI 值。这是难以正确解释 FI 方法结果的众多原因之一。受此启发，我们提出一种名为 Berkelmans-Pries FI 方法的新型全局方法，其基于 Shapley 值与 Berkelmans-Pries 依赖函数的结合。我们证明该方法具有许多有用性质，并在多种可精确推导真实 FI 的情况下准确预测正确的 FI 值。我们通过实验对大量 FI 方法（468 种）表明，现有方法不具备同样的有用性质。这表明 Berkelmans-Pries FI 方法是分析具有复杂相互依赖关系数据集的极有价值工具。
引用
@article{arxiv.2301.04740,
title = {The Berkelmans-Pries Feature Importance Method: A Generic Measure of Informativeness of Features},
author = {Joris Pries and Guus Berkelmans and Sandjai Bhulai and Rob van der Mei},
journal= {arXiv preprint arXiv:2301.04740},
year = {2023}
}