用于可解释机器学习的 Shapley 变量重要性云
机器学习
2021-10-07 v1 人机交互
摘要
可解释机器学习一直聚焦于解释优化性能的最终模型。当前最先进的方法是 Shapley 加性解释（SHAP），它局部解释变量对单个预测的影响，且最近被扩展用于跨数据集的全局评估。最近，Dong 和 Rudin 提出将研究扩展到与最终模型同属一类且“足够好”的模型，并指出了先前基于单一模型的变量重要性过度宣称的问题。然而，该方法并未直接与现有的基于 Shapley 的解释相整合。我们通过提出一种 Shapley 变量重要性云来弥补这一差距，该云汇集来自良好模型的信息，以避免最终模型 SHAP 分析中的偏差评估，并通过新颖的可视化传达发现。我们使用刑事司法和电子病历数据展示了相较于常规解释和 Dong 与 Rudin 方法的额外洞察。
引用
@article{arxiv.2110.02484,
title = {Shapley variable importance clouds for interpretable machine learning},
author = {Yilin Ning and Marcus Eng Hock Ong and Bibhas Chakraborty and Benjamin Alan Goldstein and Daniel Shu Wei Ting and Roger Vaughan and Nan Liu},
journal= {arXiv preprint arXiv:2110.02484},
year = {2021}
}