树模型特征重要性忠实度的精确估计
机器学习
2025-02-26 v3
摘要
在本文中，我们考虑了一种基于扰动的特征排名（或归因）预测忠实度度量，我们称之为 PGI squared。当应用于基于决策树的回归模型时，该度量可以针对任意独立的特征扰动分布进行准确且高效的计算。具体而言，该计算不涉及通常用于计算类似度量且本质上容易出现不准确的蒙特卡洛采样。此外，我们提出了一种基于 PGI squared 的方法，用于根据特征对树模型预测的重要性对其进行排名。我们的实验表明，在某些方面，该方法在识别全局重要特征方面可能优于最先进的 SHAP 解释器。
引用
@article{arxiv.2404.03426,
title = {Accurate estimation of feature importance faithfulness for tree models},
author = {Mateusz Gajewski and Adam Karczmarz and Mateusz Rapicki and Piotr Sankowski},
journal= {arXiv preprint arXiv:2404.03426},
year = {2025}
}
备注
Accepted to AAAI 2025 Main Technical Track