解释解释：深度网络的公理特征交互
机器学习
2020-07-01 v3 机器学习
摘要
近期工作在解释神经网络行为方面展现出巨大前景。特别是，特征归因方法解释了对于给定输入，哪些特征对模型预测最为重要。然而，对于许多任务，仅知道哪些特征对模型预测重要可能不足以深入理解模型行为。模型内特征之间的交互或许能更好地帮助我们理解模型本身，以及为何某些特征比其它特征更重要。本工作中，我们提出 Integrated Hessians，它是 Integrated Gradients 的扩展，用于解释神经网络中的成对特征交互。Integrated Hessians 克服了先前解释交互方法的若干理论局限，且与此类先前方法不同，不局限于特定架构或神经网络类别。此外，我们发现当特征数量较大时，我们的方法比现有方法更快，并且在现有定量基准上优于先前方法。代码见 https://github.com/suinleelab/path_explain
引用
@article{arxiv.2002.04138,
title = {Explaining Explanations: Axiomatic Feature Interactions for Deep Networks},
author = {Joseph D. Janizek and Pascal Sturmfels and Su-In Lee},
journal= {arXiv preprint arXiv:2002.04138},
year = {2020}
}