黑箱模型特征重要性的可视化
机器学习
2020-07-15 v3 人工智能
机器学习
摘要
近年来，大量与模型无关的方法被开发出来，以提高机器学习模型的透明度、可信任性和可解释性。我们引入局部特征重要性，作为一种近期提出的与模型无关的全局特征重要性方法的局部版本。基于局部特征重要性，我们提出了两种可视化工具：部分重要性图和个体条件重要性图，它们可视化特征的变化如何平均地以及在个体观测上影响模型性能。我们提出的方法与部分依赖图和个体条件期望图相关，但可视化的是期望的（条件）特征重要性，而非期望的（条件）预测。此外，我们表明，对观测上的 ICI 曲线取平均可得到 PI 曲线，并且将 PI 曲线关于所考虑特征的分布进行积分可得到全局特征重要性。本文的另一个贡献是 Shapley 特征重要性，它根据边际贡献将模型的整体性能公平地分配给各个特征，并可用于比较不同模型的特征重要性。
引用
@article{arxiv.1804.06620,
title = {Visualizing the Feature Importance for Black Box Models},
author = {Giuseppe Casalicchio and Christoph Molnar and Bernd Bischl},
journal= {arXiv preprint arXiv:1804.06620},
year = {2020}
}
备注
To Appear in Machine Learning and Knowledge Discovery in Databases: European Conference, ECML PKDD 2018, Dublin, Ireland, September 10 to 14, 2018, Proceedings, Part I