简洁的交互感知解释
机器学习
2024-04-22 v2
摘要
SHAP是一种流行的黑盒模型解释方法，通过揭示单个特征的重要性来工作。由于它忽略了特征交互，SHAP的解释可能令人困惑甚至具有误导性。另一方面，NSHAP报告了所有特征子集的加性重要性。虽然这确实包含了所有交互特征集，但也导致了指数级大小、难以解释的解释。在本文中，我们提出结合这两者的优点，通过将特征划分为显著交互的部分，并使用这些部分来组成简洁、可解释的加性解释。我们推导出一个标准来衡量这种划分对模型行为的代表性，并与所得解释的复杂性进行权衡。为了在超指数级多的划分中高效找到最佳划分，我们展示了如何使用统计检验来剪枝次优解，这不仅提高了运行时间，还有助于检测虚假交互。在合成和真实世界数据上的实验表明，我们的解释比SHAP和NSHAP的解释更准确或更易于解释。
引用
@article{arxiv.2402.05566,
title = {Succinct Interaction-Aware Explanations},
author = {Sascha Xu and Joscha Cüppers and Jilles Vreeken},
journal= {arXiv preprint arXiv:2402.05566},
year = {2024}
}