高维模型解释：一种公理化方法
机器学习
2021-03-30 v2 机器学习
摘要
复杂的黑盒机器学习模型常被用于关键决策领域，这引发了诸多对算法可解释性的呼吁。文献中提出的许多解释算法单独地为每个特征分配重要性，然而此类解释未能捕捉特征集合的联合效应。事实上，迄今极少有工作对高维模型解释进行形式化分析。本文提出一种新颖的高维模型解释方法，可捕捉特征子集的联合效应。我们针对 Banzhaf 指数的一种推广提出了一套新的公理化；我们的方法也可视为用高阶多项式对黑盒模型进行近似。换言之，本工作通过证明广义 Banzhaf 指数唯一满足一组自然期望性质且是黑盒模型的最优局部近似，论证了其作为模型解释的合理性。我们对该度量的实证评估凸显了它如何成功捕捉期望行为，而不满足我们所提公理的其他度量则表现出不可预测的行为。
引用
@article{arxiv.2006.08969,
title = {High Dimensional Model Explanations: an Axiomatic Approach},
author = {Neel Patel and Martin Strobel and Yair Zick},
journal= {arXiv preprint arXiv:2006.08969},
year = {2021}
}
备注
31 pages, 10 Figures, 2 Tables