NormLime：一种用于解释深度神经网络的新特征重要性度量
机器学习
2019-10-16 v2 机器学习
摘要
解释深度学习模型及一般模型预测的问题近来引起了广泛关注。许多成功的方法放弃全局近似，以提供更忠实的模型行为局部解释。LIME构建多个可解释模型，每个模型在数据流形的一个小区域上近似一个大神经网络，而SP-LIME聚合这些局部模型以形成全局解释。沿此研究方向，我们提出一种简单而有效的方法NormLIME，用于将局部模型聚合为全局和类特定的解释。一项人类用户研究强烈倾向于NormLIME生成的类特定解释而非其他特征重要性度量。数值实验证实NormLIME能有效识别重要特征。
引用
@article{arxiv.1909.04200,
title = {NormLime: A New Feature Importance Metric for Explaining Deep Neural Networks},
author = {Isaac Ahern and Adam Noack and Luis Guzman-Nateras and Dejing Dou and Boyang Li and Jun Huan},
journal= {arXiv preprint arXiv:1909.04200},
year = {2019}
}