用于可靠解释脑电图分类的补偿积分梯度
机器学习
2018-11-28 v1 信号处理
机器学习
摘要
积分梯度因满足预测归因的公理而被广泛用于评估分类模型中输入特征的贡献。然而，该方法需要恰当的基线以可靠地确定贡献。我们提出了一种不需要基线的补偿积分梯度方法。事实上，该方法利用Shapley采样补偿在任意基线上由积分梯度计算的归因。我们证明，若分类器中输入特征的处理过程相互独立且相同（如卷积神经网络中的共享权重），该方法可恢复可靠的归因。使用三个脑电图数据集，我们通过实验证明所提方法的归因比原始积分梯度更可靠，且其计算复杂度远低于Shapley采样。
引用
@article{arxiv.1811.08633,
title = {Compensated Integrated Gradients to Reliably Interpret EEG Classification},
author = {Kazuki Tachikawa and Yuji Kawai and Jihoon Park and Minoru Asada},
journal= {arXiv preprint arXiv:1811.08633},
year = {2018}
}
备注
Machine Learning for Health (ML4H) Workshop at NeurIPS 2018 arXiv:1811.07216