神经元有多重要？
机器学习
2018-06-01 v1 机器学习
摘要
将深度网络预测归因到其\emph{输入/基}特征的问题已被充分研究。我们引入\emph{电导}的概念，将归因的概念扩展至理解\emph{隐藏}单元的重要性。非正式地，深度网络隐藏单元的电导是通过该隐藏单元的归因\emph{流}。我们使用电导来理解隐藏单元对特定输入或一组输入的预测的重要性。我们从多种方式评估电导的有效性，包括理论性质、消融研究以及特征选择任务。实证评估使用 Inception 网络在 ImageNet 数据上以及情感分析网络在评论数据上进行。在这两种情况下，我们均展示了电导在识别关于这些网络内部运作的有趣洞察方面的有效性。
引用
@article{arxiv.1805.12233,
title = {How Important Is a Neuron?},
author = {Kedar Dhamdhere and Mukund Sundararajan and Qiqi Yan},
journal= {arXiv preprint arXiv:1805.12233},
year = {2018}
}
备注
under submission