YASENN：通过划分神经元激活序列解释神经网络
机器学习
2018-11-08 v1 机器学习
摘要
我们引入了一种基于划分神经元激活序列空间的前馈神经网络解释新方法。遵循该方法，我们提出了一种称为 YASENN 的模型特定解释方法。我们的方法继承了模型无关蒸馏的诸多优势，例如能够聚焦于特定输入区域，并以不同于神经网络所观测特征的特征来表达解释。此外，对蒸馏误差的检验使该方法适用于对解释错误容忍度低的问题。在技术层面，YASENN 使用分层梯度提升决策树集成来蒸馏网络，并用叶节点索引编码神经元激活序列。有限数量的唯一编码诱导了输入空间的划分。每个划分可以用多种方式描述，包括训练一个可解释模型（例如逻辑回归或决策树）以区分那些划分中的对象。我们的实验提供了该方法背后的直观理解，并展示了神经网络决策中揭示的伪影。
引用
@article{arxiv.1811.02783,
title = {YASENN: Explaining Neural Networks via Partitioning Activation Sequences},
author = {Yaroslav Zharov and Denis Korzhenkov and Pavel Shvechikov and Alexander Tuzhilin},
journal= {arXiv preprint arXiv:1811.02783},
year = {2018}
}