基于有向特征交互的黑盒模型解释方法
机器学习
2023-04-18 v1
摘要
随着机器学习算法被广泛部署于多种领域，使这些通常为黑盒的模型透明化至关重要。近期若干工作通过捕捉每个实例中预测的最具影响力特征来解释黑盒模型；此类解释方法是单变量的，因为它们逐特征刻画重要性。我们将单变量解释扩展到更高阶；这增强了可解释性，因为双变量方法能够捕捉黑盒模型中的特征交互，表示为有向图。分析该图使我们能够发现同等重要（即可互换）的特征组，而有向性的概念使我们能够识别最具影响力的特征。我们将双变量方法应用于 Shapley 值解释，并通过实验证明了有向解释发现特征交互的能力。我们在 CIFAR10、IMDB、Census、Divorce、Drug 和基因数据上展示了我们的方法相对于最先进方法的优越性。
引用
@article{arxiv.2304.07670,
title = {Explanations of Black-Box Models based on Directional Feature Interactions},
author = {Aria Masoomi and Davin Hill and Zhonghui Xu and Craig P Hersh and Edwin K. Silverman and Peter J. Castaldi and Stratis Ioannidis and Jennifer Dy},
journal= {arXiv preprint arXiv:2304.07670},
year = {2023}
}