不止是一个黑箱：通过传播激活差异学习重要特征
机器学习
2017-04-12 v3 计算机视觉与模式识别
神经与进化计算
摘要
注：本文描述 DeepLIFT 的一个较早版本。更新版本见 https://arxiv.org/abs/1704.02685。原始摘要如下：神经网络所谓的“黑箱”性质是在可解释性至关重要的应用中采用的障碍。在此我们提出 DeepLIFT（Learning Important FeaTures，学习重要特征），一种在神经网络中计算重要性分数的高效且有效的方法。DeepLIFT 将每个神经元的激活与其“参考激活”进行比较，并根据差异分配贡献分数。我们将 DeepLIFT 应用于在自然图像和基因组数据上训练的模型，并展示了相对于基于梯度的方法的显著优势。
引用
@article{arxiv.1605.01713,
title = {Not Just a Black Box: Learning Important Features Through Propagating Activation Differences},
author = {Avanti Shrikumar and Peyton Greenside and Anna Shcherbina and Anshul Kundaje},
journal= {arXiv preprint arXiv:1605.01713},
year = {2017}
}
备注
6 pages, 3 figures, this is an older version; see https://arxiv.org/abs/1704.02685 for the newer version